Трудно сказать, встречался ли Абакумов с Верховным до этого, однако то, что он впервые увидел его кабинет, это точно. По крайней мере, это подтверждает журнал посещений И.В. Сталина в его кремлевском кабинете. Тех, кто входил туда впервые, поражала его исключительная простота и скромность. «Большая комната со сводчатым потолком выходила тремя окнами на кремлевский двор. Белые, гладкие стены снизу, в рост человека, облицованы светлой дубовой панелью. Справа, в углу, как войдешь, — витрина с посмертной маской Ленина. Налево — большие стоячие часы в футляре черного дерева с инкрустацией. Через весь кабинет постлана ковровая дорожка к письменному столу. Над письменным столом — портрет В.И. Ленина, выступающего с трибуны, работы художника Герасимова. На письменном столе — книги и бумаги, за столом кресло, слева от него столик с телефонами разного цвета, справа, в простенке между окнами — черный кожаный диван и стеклянный книжный шкаф», — так описал кабинет вождя авиаконструктор А. Яковлев.
Большую часть беседы Сталин стоял или делал несколько шагов взад и вперед перед столом. Зажигал кривую трубку, затягивался один раз, потом через несколько минут опять зажигал, опять затягивался, и она снова гасла.
Абакумов с Меркуловым пробыли у хозяина всего полчаса. Речь шла о реформе работы контрразведки. Дело в том, что в отсутствие Абакумова Меркулов провел срочное совещание начальников особых отделов ряда фронтов и армий, где каждый из присутствующих получил по 20 минут на выступление.
Сталин потребовал от органов военной контрразведки более лучшей работы в борьбе со шпионами и диверсантами. К 1 апреля 1943 г. Меркулов готовит проект постановления об образовании наркомата госбезопасности и схему структуры ведомства с объяснительной запиской, которые за подписью Берии 2 апреля уходят к Сталину.
По замыслу Лаврентия Павловича, все оперативно-чекистские управления и отделы выделялись из НКВД СССР и на их базе образовывался самостоятельный наркомат госбезопасности. А Управление особых отделов должно было войти в состав нового ведомства как одно из управлений контрразведки НКГБ (СМЕРИНШ— смерть иностранным шпионам). Однако этот проект не понравился Сталину. Тогда к 4 апреля Меркулов подготовил следующий вариант, где, ничего не меняя, дополнительно предлагал в управлении СМЕРИНШ усилить технические отделы и создать новые подразделения с функциями по работе в тылу. Но вождь не принял и этот проект. Он приказал вернуться к реформе по той же схеме, которая была проведена в жизнь накануне войны и снова объединить усилия руководства обороной государства с обеспечением безопасности в армии и на флоте. Фактически он потребовал подчинения военной контрразведки напрямую наркомату обороны, чего не хотел прежде всего Берия. 13 апреля в 22.05 Сталин снова проводит совещание с руководством НКВД, а 15 апреля в 23.35 Нарком обороны и Верховный приглашает на совещание Абакумова уже как будущего своего заместителя.
Когда встал вопрос о названии военной контрразведки (второе проектное название СМЕРНЕШ— смерть немецким шпионам) Сталин сказал присутствующим:
— А почему, собственно говоря, речь должна идти только о немецких шпионах против нашей армии? Давайте назовем «Смерть шпионам», а сокращенно СМЕРШ.
18 и 19 апреля Сталин снова принял Абакумова, Меркулова и Берию, чтобы окончательно решить вопрос реформирования военной контрразведки. Таким образом, 14 апреля 1943 г. вышло постановление ЦК ВКП(б) «Об организации народного комиссариата государственной безопасности». А 21 апреля 1943 г. — постановление Государственного комитета обороны № 3222 СС/ОВ с утверждением положения о ГУКР СМЕРШ НКО СССР (
19 апреля 1943 г. Постановлением СНК СССР № 415–138 сс Управление Особых отделов НКВД было преобразовано в Главное управление (ГУКР) СМЕРШ НКОСССР).В этом документе были определены конкретные задачи органов СМЕРШ:
«а) борьба со шпионской, диверсионной, террористической и иной подрывной деятельностью иностранных разведок в частях и учреждениях Красной Армии;
б) борьба с антисоветскими элементами, проникшими в части и учреждениях Красной Армии;
в) принятие необходимых агентурно-оперативных и иных (через командование) мер к созданию на фронтах условий, включающих возможность безнаказанного прохода агентуры противника через линию фронта с тем, чтобы сделать линию фронта непроницаемой для шпионских и антисоветских элементов;
г) борьба с предательством и изменой родине в частях и учреждениях Красной Армии (переход на сторону противника, укрывательство шпионов и вообще содействие работе последних);
д) борьба с дезертирством и членовредительством на фронтах;
е) проверка военнослужащих и других лиц, бывших в плену и окружении противника;
ж) выполнение специальных заданий Народного Комиссара Обороны.
2. Органы СМЕРШ освобождаются от проведения всякой другой работы, не связанной непосредственно с задачами, перечисленными в настоящем разделе».
Следующим параграфом определялись права и обязанности органов СМЕРШ: