Владимиру Крючкову помогали дипломатическое образование и опыт, трудолюбие и прилежание, также отличная память. Леонид Владимирович Шебаршин, сменивший его на посту начальника разведки, вспоминал о своей первой встрече с Крючковым, тогда еще начальником секретариата КГБ. «В ходе проверки обнаружилось, что за мной уже несколько месяцев числится документ довольно деликатного содержания. У меня его нет. Начальник отдела смутно припоминает, что он, как ему кажется, мог передать этот документ начальнику секретариата КГБ Крючкову для доклада Ю. В. Андропову, и советует мне обратиться к Крючкову. Секретариат комитета для простых смертных — учреждение таинственное, могущественное, и лучше дела с ним не иметь. Но потерять документ никоим образом невозможно, я иду с девятого этажа старого здания на Лубянке на третий этаж, разъясняю генерал-майору Крючкову, зачем я его беспокою. В этот момент Владимир Александрович удивил меня своей памятью. Услышав название документа, попавшего к нему несколько месяцев назад, он немедленно открыл сейф и из толстенной пачки бумаг сразу же достал именно то, что требовалось. Мне показалось, что я имею дело с человеком в каком-то отношении необыкновенным».
Кроме того, в разведке Владимир Крючков оказался после четырех лет работы в КГБ на очень ответственном посту. Важнейшим фактором его успехов было и личное доверие Юрия Андропова, с которым он теперь общался хоть и не каждый день, как прежде, но чье внимание и поддержку получал неизменно. Однако теперь Крючков находился на самостоятельной работе и должен был повседневно решать множество не только чисто профессиональных, но и управленческих задач.
Крючков пришел в разведку как эмиссар Андропова. Ветераны ПГУ относились к нему поначалу с недоверием. Недаром он в своих мемуарах ничего не пишет о предшественниках — видимо, болезненно относился к сравнению с ними. В разведке собирались люди, которым был свойствен снобизм по отношению к пришельцам со стороны, чужаков там принимали неохотно. Само ПГУ также делилось на кланы по географическому принципу. Работавшие в нем считались элитой КГБ, служить там было престижно — возможность подолгу бывать за рубежом, соответственно, закупаться в тамошних магазинах, доступ в высшие сферы политики, сравнительно «чистая», интеллектуальная служба.
Крючкову пришлось одновременно и убеждать в своем профессионализме, и твердо проводить линию на недопущение групповщины, интриг, отгороженности разведки от других подразделений КГБ. Шебаршин вспоминал: «Обладал Владимир Александрович и незаурядным умением находить выход из сложных ситуаций. В. А. Крючков, назначенный на должность первого заместителя начальника разведки, сразу этой специфики не уловил. Сделали естественную ошибку и профессионалы руководители, применившие к Крючкову обычную тактику — неформальные договоренности, массированное давление с разных, казалось бы никак не связанных между собой, сторон, навязывание готовых, не подлежащих критике и обсуждению, решений. Крючков выдержал нажим. Его перспектива была определена заранее… К тому времени он уже разобрался в существовании в ПГУ неформальных структур, распознал механизм их формирования и функционирования и приступил к систематической борьбе с ними».
Структура ПГУ была многосоставной. Во-первых, линия резидентов, действовавших обычно под посольским прикрытием (то есть формально являвшихся сотрудниками МИДа либо журналистами и т. д.). Их не любили коллеги-дипломаты, называя «соседями» и считая их за бездельников и карьеристов, не зная в полном объеме о их работе. Во-вторых, линия нелегалов, то есть лиц, не имевших дипломатической неприкосновенности и работавших в стране пребывания под «легендой» — с вымышленными именами и фальшивыми либо не принадлежащими им документами (таковым являлся знаменитый Рудольф Абель, в реальности Вильям Фишер, законспирированный как владелец фотоателье). В-третьих, радиоэлектронная разведка. В-четвертых, разведка с территории СССР, то есть вербовка иностранцев, использование советских граждан, выезжающих за границу, и т. д. Имелись и собственная контрразведка (ее одно время возглавлял небезызвестный Олег Калугин), и институт (после 1984 года получивший имя Андропова), готовивший разведчиков, и служба дезинформации, и служба аналитики, и даже диверсионное подразделение, научно-исследовательский институт разведывательных проблем.