С 1983 года – на руководящих должностях в центральном аппарате разведки. В апреле 1987 года становится заместителем начальника внешней разведки (по странам Ближнего и Среднего Востока и Африки).
6 февраля 1989 года генерал-лейтенант Шебаршин был назначен руководителем советской внешней разведки. Одновременно являлся заместителем Председателя КГБ СССР.
Леонид Владимирович стал, по сути дела, первым кадровым сотрудником советской разведки, прошедшим все ступени оперативного роста, начиная с младшего оперативного работника, который занял в ней столь высокий пост. На его долю выпало руководить разведкой в последние годы существования Советского государства.
Генерал-лейтенант Кирпиченко, являвшийся первым заместителем начальника внешней разведки, по этому поводу писал:
«Леонид Владимирович Шебаршин являлся первым и единственным профессионалом в роли начальника советской разведки. Пройдя путь к руководящему креслу через все служебные ступени, он был способен видеть то, чего не могли разглядеть его предшественники. Л. В. Шебаршин реально, в деталях знал разведывательную работу. Политические процессы за рубежом и в нашей стране он не воспринимал ни в каком другом цвете, кроме натурального, хотя работать ему пришлось в тяжелый и нервный период, которому больше всего подходит известное в нашей истории определение «смутное время». Трагический распад Советского Союза пришелся на последние дни пребывания Л. В. Шебаршинана посту начальника разведки».
От себя добавим, что как опытный аналитик и оперативный сотрудник, почти три десятилетия проработавший в разведке на различных, в том числе руководящих должностях, Шебаршин не мог не видеть назревавшего процесса распада Советского государства и роли в этом западных спецслужб.
В этих непростых условиях каждый из работавших с ним руководящих сотрудников Службы делал все возможное, чтобы сохранить ее потенциал, понимая, что при любом исходе событий внешняя разведка должна оставаться необходимым атрибутом государственного аппарата, защищающим национальные интересы страны от внешних угроз.
С 22 по 23 августа 1991 года Л. В. Шебаршин временно исполнял обязанности Председателя КГБ СССР.
Генерал-лейтенант Шебаршин был награжден орденами Красного Знамени и Красной Звезды, многими медалями, а также нагрудными знаками «Почетный сотрудник госбезопасности» и «За службу в разведке».
22 сентября 1991 года вышел в отставку. С декабря 1991 года являлся президентом Российского национального агентства экономической безопасности.
В одном из интервью, отвечая на вопрос «Зачем нам нужна разведка?», Леонид Владимирович, в частности, подчеркивал:
«Разведка – инструмент, с помощью которого человек проникает в то, что другой человек пытается скрыть. Возможно и более широкое толкование разведки – выяснение обстоятельств, которые благоприятствуют или препятствуют осуществлению того или иного действия, связанного с риском для замышляющего…
Разведка должна иметь четко определенные цели для того, чтобы работать эффективно. Постановка целей для разведки – прерогатива и обязанность высшего руководства страны. Эти цели вытекают из политических и экономических задач, стоящих перед государством. Чем энергичнее решаются эти задачи, тем результативнее работает разведывательная служба.
В этих условиях складывается четкий механизм обратной связи, поступающая информация побуждает творцов политики к действиям, эти действия, в свою очередь, требуют дополнительных данных. Разведка находится под постоянным контролем государственного руководства, с нее строго спрашивают за ошибки и упущения, но высоко оценивают успехи…
Десятилетиями мы следили за маневрами внешних сил, противников и партнеров, выявляли их тайные замыслы, подсказывали направления ответных ходов, вступали в острейшие схватки, несли потери. И всегда, в самых тяжелых обстоятельствах присутствовала мысль – за нами Отечество, мощное, неколебимое государство, за нами великий народ. Мы даже верили словам “бастион мира и прогресса”, а иногда “…мира и социализма”. Противник не осмелился брать бастионы штурмом. Он добивается своего измором и изменой.
Борьба за Отечество продолжается на новых рубежах. Она неизмеримо ближе к сердцу России. Доля вины за все происходящее лежит и на нас. Так нужно ли сегодня наше дело? Нужно. Необходимо».
Свои книги Леонид Шебаршин писал всю жизнь. В них нашли место дневниковые записи, зарисовки из путевых блокнотов о Пакистане, Индии, Иране, Афганистане, повествование о взаимодействии советской разведки с аналогичными службами бывших «братских» стран: ГДР, Болгарии, Кубы.