Малий вину не признал, но следствие к тому времени уже активно разрабатывало обвинительное направление. Сразу после убийства Кирова многие руководители ленинградского НКВД были осуждены за халатное исполнение служебных обязанностей, выразившихся в непринятии необходимых мер по охране товарища Кирова и недостаточности принятых. В январе 1935 года на скамье подсудимых оказались начальник ленинградского управления НКВД Ф. Д. Медведь, первый заместитель начальника ленинградского управления НКВД И. В. Запорожец, второй заместитель начальника ленинградского управления НКВД Ф. Т. Фомин, начальник 1-го отделения Оперативного отдела УГБ ленинградского управления НКВД М. И. Котомин и другие. Они получили различные сроки заключения в концлагере и лишились высоких государственных должностей.
Уже в 1937 году работникам НКВД снова припомнили освобождение потенциального убийцы. Подобная халатность при выполнении служебных обязанностей стала основанием для возбуждения новых уголовных дел, и на этот раз наказание было гораздо более строгим. Многих приговорили к расстрелу, и эти приговоры приводились в исполнение незамедлительно.
Сотрудники НКВД стали частью политики повального уголовного преследования, развернувшейся после убийства Кирова. Волна расстрелов ожидаемо докатилась до столицы, в результате чего в расстрельные списки попали ранее неприкасаемые народный комиссар внутренних дел Г. Г. Ягода, его заместитель Я. С. Агранов, а также бывшие сторонники генеральной линии партии, утратившие доверие руководства: Н. И. Бухарин, А. И. Рыков и другие. В числе обвиняемых оказались многие рядовые члены партии, на которых так или иначе пало подозрение об участии в контрреволюционной деятельности. С каждым новым делом масштаб уголовного преследования увеличивался.
Репрессивная политика властей распространилась на другие группы населения: армию, органы государственной безопасности, бывших кулаков, членов антисоветских партий, семьи расстрелянных и приговоренных к другим мерам наказания. В результате пересмотра уголовных дел после смерти Сталина, начиная с 1953 года, многие из них были реабилитированы, но зачастую — посмертно. Так, в частности, произошло с 13 подсудимыми, чьи дела рассматривались в одном судебном процессе с делом Николаева. Сам Николаев как непосредственный убийца Кирова реабилитирован не был.