Владимир Крючков подобрал свою команду. Его первыми заместителями были Иван Алексеевич Маркелов и Вадим Алексеевич Кирпиченко. Если первый был политическим назначенцем, не имевшим отношения к разведке, но располагавшим обширными связями в аппарате КГБ, а в свою бытность начальником Рязанского КГБ, боровшимся с Солженицыным, то второй много лет провел в Египте, где являлся резидентом, был по образованию востоковедом и прекрасно знал регионы Африки и Ближнего Востока. Маркелова затем сменил Виктор Федорович Грушко — выпускник МИМО, бывший резидент КГБ в Норвегии, доверенный человек Крючкова, ставший в 1991 году его первым заместителем как главы КГБ. Среди его заместителей были такие профессионалы, как Яков Медяник, Юрий Дроздов и Николай Леонов, который станет широко известным в 1990-е годы.
1985 год Владимир Крючков встретил в начале седьмого десятка лет. Он был еще достаточно полон сил, хотя выглядел уже старовато. То, что Горбачев сменил прежних стариков, казалось ему само собой разумеющимся, и он связывал с ним немало надежд. То, что отношения с Западом дошли до крайней точки и необходимы шаги по их улучшению, также не вызывало сомнений. Нужно было решать и афганскую проблему, все больше превращающуюся в гангрену, отравляющую весь организм. Поэтому Владимир Крючков с энтузиазмом откликался на инициативы Горбачева как во внешней, так и во внутренней политике. Надо отметить, что как раз на начало перестройки пришелся пик удач ПГУ — Олдрич Эймс сдал много американских шпионов в советских спецслужбах, которые были арестованы и расстреляны. Единственный, кому удалось уйти, — Олег Гордиевский, но он работал не с ЦРУ, потому и спасся.
Переговоры и консультации по Афганистану, в которых Владимир Крючков принимал активное участие, привели к подписанию в апреле 1988 года в Женеве соглашений о выводе советских войск к 15 февраля 1989 года. В ходе мирного урегулирования афганской проблемы ему пришлось много контактировать с новым министром иностранных дел Эдуардом Шеварднадзе, до того — первым секретарем грузинской компартии. Хотя Крючков никогда не пытался влиять на кадровую политику в высших эшелонах власти, он, узнав от Чебрикова, что Шеварднадзе планируют назначить в МИД, пытался отговорить руководство страны от подобного шага, считая, что тот, в силу своей полной неподготовленности для занятия такого поста, не сможет эффективно работать. Соглашения хотя и привели к окончанию участия советских войск в афганской войне, но они ничего не гарантировали, в частности, безопасности дружественного СССР режима. Моджахеды их не подписывали и продолжали воевать. Как вспоминал Крючков, в советских верхах Афганистан практически был списан со счетов, и ожидалось падение режима Наджибуллы вслед за выводом Советской армии. Крючков был в числе немногих, кто верил в его перспективы. И действительно, власть НДПА продержалась до 1992 года.
По Афганистану Владимир Крючков плотно работал с Михаилом Горбачевым. Возможно, именно тогда генеральный секретарь и решил, что именно Крючков станет преемником Чебрикова на посту главы КГБ. Тот слишком уж ассоциировался с прежними временами и наследием Андропова, что мешало в эпоху гласности и демократизации. Поэтому Горбачев предложил следующую кадровую перестановку — Чебриков переходит на пост секретаря ЦК, курирующего правоохранительные органы, а на его место назначается Владимир Крючков. Напомним, на тот момент он даже не являлся первым заместителем председателя КГБ, каковым был Филипп Денисович Бобков (другим первым заместителем числился Николай Павлович Емохонов, который отвечал за чисто технические вопросы, будучи инженером, и на руководство комитетом претендовать не мог), а всего лишь рядовым замом — начальником ПГУ.
В пользу кандидатуры Владимира Крючкова сработали следующие факторы. Он, как отмечалось выше, не был причастен к борьбе с диссидентами — в отличие от Бобкова. Как разведчик, хорошо знал окружающий СССР мир, не обладал провинциальностью и узостью взглядов. Крючков тесно работал с новой командой — Шеварднадзе и самим Горбачевым по афганской проблематике — и мог считаться в этом смысле «своим» человеком в КГБ. Также его хорошо знал «серый кардинал» — Александр Яковлев, 12 лет проработавший послом в Канаде и в таковом качестве близко сотрудничавший с разведкой, поскольку под крышей его посольства служило немало людей из КГБ. Кроме того, Крючков, как и сам Горбачев, считался человеком Андропова, что их сближало.