Параллельно с реабилитацией и восстановлением в правах осуждённых по политическим мотивам велась работа по выявлению тех, кто являлся непосредственным исполнителем репрессивных приказов. Естественно, что такие «добросовестные» нарушители «социалистической законности» находились, прежде всего, в среднем звене руководителей госбезопасности и внутренних дел. Партийные «заказчики» репрессий вообще оставались «вне подозрений». Поскольку расследование дел о нарушении социалистической законности поручалось именно тому органу, где и были допущены эти действия, все разборки спускались на тормозах.
4 мая 1954 года Президиум ЦК КПСС обсудил вопрос «О пересмотре дел на лиц, осуждённых за контрреволюционные преступления, содержащихся в лагерях, колониях и тюрьмах МВД СССР и находящихся в ссылке на поселении». Вновь была создана Центральная комиссия по реабилитации, в состав которой вошли: генеральный прокурор СССР Руденко Р.А. (председатель), министр внутренних дел Круглов С.Н., председатель Комитета государственной безопасности Серов И.А., министр юстиции Горшенин К.П., представители прокуратуры СССР, Главной военной прокуратуры СССР, КГБ и Министерства юстиции. Местные комиссии состояли из прокурора республики (края, области) в качестве председателя и членов: министра внутренних дел республики, начальника УМВД по краю или области, председателя КГБ республики, начальника УКГБ по краю или области, министра юстиции республики, начальника Управления Министерства юстиции края или области.
Центральная комиссия получила право пересматривать дела на лиц, осуждённых коллегией ОГПУ, Особым совещанием при НКВД — МГБ — МВД СССР, Военной коллегией Верховного суда СССР и военными трибуналами. Местные комиссии рассматривали дела на лиц, осуждённых тройками НКВД, судебными органами и специальными судами. В итоге изучения стародавних дел указанные комиссии могли выносить постановления об отмене прежнего решения и полной реабилитации осуждённого, о переквалификации состава преступления, о сокращении срока наказания, об амнистии и об отказе в пересмотре дела.
За период с мая 1954 года по март 1956 года всеми комиссиями были пересмотрены дела в отношении 337183 человек, содержавшихся в лагерях, колониях, тюрьмах и находившихся на поселении. Всего в то время (на 1 февраля 1954 года) находилось за решёткой 467946 осуждённых за контрреволюционные преступления. В отношении 153502 лиц были приняты решения о прекращении дел, применены указы об амнистии, о сокращении срока наказания, об освобождении из ссылки и другие. Реабилитировали всего 14338 человек или 4,2 %. В отношении 183681 осуждённого (54,5 %) оставлены ранее определённые меры наказания [104].
В число реабилитированных попали бывший первый секретарь Западно-Сибиркого крайкома ВКП(б) Эйхе Р.И. и другие партократы, инициировавшие (вместе с Хрущёвым Н.С.) массовые репрессии в 1937 году, все военачальники во главе с Тухачевским М.Н., готовившие планы поражения СССР в войне с Германией, бывший командующий Западным особым военным округом Павлов Д.Г., преступным образом не приведший подчинённые ему войска в полную боевую готовность и тем самым на начальном этапе войны способствовавшим разгрому Красной армии, а также и другие ранее обоснованно осуждённые. В общем, сняли обвинения со всех, кого «дорогой наш Никита Сергеевич» мог использовать для того, чтобы обливать Сталина грязью. Воистину в жизни часто всё меняется на 180 градусов: сегодня ты герой, а завтра — враг народа, нынче — предатель, а потом вдруг — демократ…