В этой ситуации Иван Грозный принимает следующее решение: 3 декабря 1564 года он внезапно уезжает из Москвы в Александровскую слободу и 3 января 1565 года объявляет о своём отречении от престола по причине гнева на бояр, церковных, воеводских и приказных людей (т. е. чиновников) и напрямую апеллирует к народу. Через два дня в Александровскую слободу прибывает делегация во главе с архиепископом Пименом, которая уговаривает царя вернуться на царство. 3 февраля 1565 года царь Иван Грозный объявляет, что вновь принимает на себя правление с тем, чтобы ему вольно было казнить изменников, налагать на них опалу, лишать имущества «без докуки и печалований» со стороны духовенства и учредить в государстве опричнину, которая происходила от слова «опричь», то есть «особый», и явилась первой на Руси спецслужбой, «особым отделом». На содержание опричнины были назначены особые города, в том числе Вологда, Вязьма, Суздаль с волостями (всего около двадцати). В Москве в распоряжение опричнины были отданы некоторые улицы (например, Арбат, Сивцев Вражек, часть Никитской). В опричнину было набрано 1000 человек из «опричных» уездов, не имеющих родственных и служебных связей со знатными боярами. В дальнейшем число опричников достигло 6000 человек. Эти люди в случае необходимости служили в роли доверенных царских порученцев, осуществлявших охранные, разведывательные, следственные и карательные функции. Они действительно были «особенными» — обладали практически неограниченной властью и решительным характером. В черных кафтанах, на вороных конях, украшенных черной сбруей — вид у царских слуг был устрашающим. Неизменным атрибутом опричников были метла и песья голова, которыми «декорировалось» седло. Символы давали понять, что любой государев изменник будет по-собачьи «выгрызен» и «выметен» поганой метлой.
Большинство современных историков видят в опричнине глубокий государственный смысл. В частности, опричнина способствовала уничтожению привилегий феодальной знати, которая препятствовала объективным тенденциям централизации государства и явилась выражением победы «самодержавной власти царя над олигархическими тенденциями боярства». В своем завещании царь писал: «А что если учинил опришнину, и то на воле детей моих, Ивана и Фёдора, как им прибыльнее, и чинят, а образец им учинил готов».
Но это был образец и для Иосифа Сталина. Вскоре после того, как 27 декабря 1942 года появилось Смоленское воззвание Андрея Власова, Сталин забирает Особые отделы из НКВД и 19 апреля 1943 года создает на их основе Главное управление контрразведки Смерш, подчиненное непосредственно ему как народному комиссару обороны. Во главе ГУКР Смерш он ставит комиссара государственной безопасности 2-го ранга Виктора Семёновича Абакумова, до этого возглавлявшего Управление особых отделов НКВД СССР. Одновременно Абакумов становится заместителем наркома обороны Иосифа Виссарионовича Сталина.
Виктор Семёнович Абакумов родился 11 апреля 1908 года в Москве около Хамовнических казарм и был крещён в церкви Николы в Хамовниках. Он добровольцем вступил в РККА, где служил во 2-й Московской бригаде особого назначения (ЧОН). В январе 1932 года по партийной путёвке его направляют в органы госбезопасности. С 1933 года он работает в экономическом управлении центрального аппарата ОГПУ, которое занималось борьбой с диверсиями и вредительством в народном хозяйстве. Здесь он зарекомендовал себя как толковый оперативник и агентурист. Как рассказывают, «женщины, конечно, от него с ума сходили — сам красивый, музыка своя, танцор отменный, да еще с выпивкой и закуской».
На руководящую должность Абакумова выдвинул Лаврентий Павлович Берия в ходе проведенной им кадровой реформы органов госбезопасности, о которой говорилось выше. 5 декабря 1938 года Абакумов был назначен начальником Управления НКВД по Ростовской области. 25 февраля 1941 года его вызывает нарком внутренних дел Берия и в звании старшего майора госбезопасности назначает своим заместителем. Абакумову было 32 года. Менее чем через два года, 19 апреля 1943 года, Абакумов становится уже заместителем Сталина и начальником Смерш.
В центральном аппарате Смерш служило 646 человек, которые размещались в здании на Лубянке на 4-м и 7-м этажах. Под руководством Абакумова Смерш превратился в сверхмощное ведомство и стал самой эффективной спецслужбой времен Второй мировой войны, напрочь перекрыв все каналы для вражеских диверсантов и государственной измены.
В состав ГУКР Смерш с апреля 1943 года входили следующие отделы, начальники которых были утверждены 29 апреля 1943 года приказом № 3/ сш наркома обороны Иосифа Виссарионовича Сталина: