По окончании войны союзники планировали провести несколько больших процессов силами международного военного трибунала. Однако растущее напряжение в отношениях между победителями довольно быстро поставило крест на этих планах. Для того чтобы создать юридическую базу для наказания нацистских преступников, Союзная контрольная комиссия для Германии 20 декабря 1945 года приняла Закон № 10, который уполномочивал державы-победительницы осуществлять судебное преследование лиц, подозреваемых в совершении преступлений против мира, военных преступлений и преступлений против человечности, самостоятельно на территории своих зон оккупации. Статья 3 этого закона гласила: «Трибунал, который будет судить лиц, обвиняемых в перечисленных преступлениях, будет назначаться Главнокомандующим соответствующей зоны. Он же будет определять процедуру трибунала».
Американские оккупационные власти использовали для заседаний таких трибуналов тот самый Дворец правосудия, в котором в 1945–1946 годах проходили заседания Международного военного трибунала, судившего главных нацистских военных преступников, поэтому 12 проведенных в нем в период с декабря 1946-го по октябрь 1948 года судебных процессов принято называть «малыми» или «последующими» Нюрнбергскими процессами. Одним из них, третьим по счету, стал суд над деятелями гитлеровской Фемиды. Он начался в марте и завершился в декабре 1947 года. На скамье подсудимых оказались 16 человек: девять были высокопоставленными функционерами рейхсминистерства юстиции, остальные — судьями специальных судов, вроде «Народной судебной палаты», рассматривавшей дела о государственной измене в упрощенном порядке. Некоторых руководителей судебной власти Германии уже нельзя было привлечь к ответственности: министр юстиции Франц Гюртнер умер в 1941-м, его преемник Отто Тирак покончил с собой в 1946-м, президент Народной судебной палаты Роланд Фрайслер погиб в конце войны во время бомбежки.
Дворец правосудия в Нюрнберге был построен в 19091916 гг. Для заседаний Международного военного трибунала он был выбран как по символическим причинам (Нюрнберг как место проведения нацистских съездов и принятия расовых законов можно считать идеологической колыбелью нацизма), так и по сугубо утилитарным — комплекс зданий практически не пострадал от бомбежек и обладал необходимой вместительностью.
Американские власти исходили из того, что действующие судьи не могут надолго покидать свои округа, и привлекли к проведению таких процессов в основном судей в отставке. Так, председательствующим в процессе стал Каррингтон Маршалл, бывший глава Верховного суда штата Огайо. Однако были и действующие судьи — например, когда в середине процесса Маршалл заболел, его заменил в председательском кресле судья Верховного суда штата Орегон Джеймс Бранд. Обвинение поддерживали военные юристы во главе с бригадным генералом Телфордом Тейлором; у него уже имелся опыт подобной работы, т. к. на «большом» Нюрнбергском процессе он был одним из помощников главного обвинителя от США Роберта Джексона.
Юридической основой для правосудия стали принципы, заложенные «большим Нюрнбергским процессом». Обвинение подсудимым было предъявлено по тем же четырем пунктам, что и главным нацистским военным преступникам: 1) участие в общем плане или заговоре с целью совершения военных преступлений и преступлений против человечности; 2) военные преступления путем злоупотребления судебной властью, результатом чего явились массовые убийства, пытки, грабежи частной собственности; 3) преступления против человечности, в том числе использование массового рабского труда; и 4) членство в преступных организациях (СС и НСДАП).