Ленинградские чекисты отдали свои жизни для того, чтобы этого не случилось и не могло повториться. Уже в самый первый день войны они понесли потери. Группа сотрудников Управления возвращалась поездом из командировки на Западную Украину. На белорусской станции Лида эшелон попал под массированный налет фашистской авиации. Девять человек погибли, многие получили ранения. Сейчас на станции Лида есть обелиск с текстом: «Никто не забыт и ничто не забыто. Здесь похоронены ленинградские чекисты: Василий Федорович Черкасов, Михаил Гаврилович Малушков, Леонид Федорович Петров, Николай Семенович Тихонов, Абрам Моисеевич Кашер, Павел Сергеевич Парфенов, Александр Петрович Ромашев, Иван Петрович Дружинин, Николай Михайлович Тупицин. Люди, будьте бдительны».
Надо отметить, что «Большой дом» был далеко не спокойным местом. Он находился в зоне интенсивных авиабомбежек и артобстрелов. На полетной карте фашистского пилота (его самолет был подбит в 1941 году тараном прославленного летчика Севастьянова и упал на территорию Таврического сада) в качестве первоочередных целей бомбометания были отмечены Смольный, водопроводная станция на улице Воинова и здание Управления госбезопасности на Литейном проспекте. В течение 1942 года это здание получило ряд повреждений в результате артобстрелов, были выбиты стекла и оконные переплеты, испорчена стена фасада здания. Были жертвы. 2 апреля 1942 года бомба попала во двор «Большого дома». От ее взрыва пострадали несколько сотрудников, а работник Особого отдела Балтфлота капитан 3-го ранга Михаил Михайлович Черногоров погиб за рабочим столом в служебном кабинете.
Личный состав Управления госбезопасности питался в столовых по талонам второй категории. В январе 1942 года суточная норма была 250 граммов хлеба, 28 — мяса, 5 — масла, 10 — сахара. В результате истощения и заболеваний осенью 1941 — зимой 1942 годов умерли 73 сотрудника Управления. Случалось, что дистрофией заболевали целые подразделения. Для поддержания ослабевших от голода и болезней работников и для скорейшего возвращения их в строй были созданы три стационара, один из которых находился в Управлении.
В дивизиях народного ополчения и специальных отрядах погибло 169 чекистов, при выполнении боевых заданий в тылу противника — 48, при артиллерийских обстрелах и бомбежках Ленинграда — 50, умерло от голода более 80. В боях на Ленинградском фронте погибло свыше 350 оперативных работников особых отделов.
Документы свидетельствуют, что в борьбе с сильным и хорошо подготовленным врагом чекисты демонстрировали силу духа и преданность делу защиты Отечества. За весь период войны в их рядах не было ни одного факта предательства или перехода на сторону врага.
К пятидесятилетию органов ВЧК-КГБ в здании Управления КГБ СССР по Ленинградской области на средства, собранные сотрудниками Управления и чекистами-пенсионерами, был создан мемориальный комплекс, в который вошли мемориальная доска, установленная в вестибюле четвертого этажа, и памятная книга в комнате боевой славы. На мемориальной доске и в памятной книге имена тех, кто не щадил сил и самой жизни во имя чести, независимости, государственной безопасности нашей Родины.
27 января 1994 года в Красном зале Управления встретились ветераны- чекисты и сотрудники УФСК РФ по Санкт-Петербургу и Ленинградской области в связи с пятидесятилетием полного снятия блокады Ленинграда. Давно не было такой теплой и праздничной встречи в этом зале. С трибуны звучали голоса чекистов-воинов, отстоявших Родину и одержавших Победу, и нынешних защитников Российского государства. В те дни была обновлена Книга памяти: в нее занесены фамилии 300 сотрудников, погибших при защите Родины. К пятидесятилетию Победы уточнены и дополнены списки участников Великой Отечественной войны, об их ратных делах рассказывает тематическая выставка.
Стародубцев Альберт Федорович (1937–2015)