Выполняя задание, полученное в Восточном Берлине, Фельфе стал перебирать старые связи по Дрездену, по работе в разведывательном управлении PCX А. Осенью 1950 года было создано так называемое «ведомство Бланка», будущее министерство обороны ФРГ. Несколько позже, вопреки Потсдамскому соглашению, министры иностранных дел трех западных держав одобрили решение о ремилитаризации Германии. Укреплялись и спецслужбы. Нужны были кадры.
Именно в это время с Фельфе восстановил контакт бывший полковник вермахта Крихбаум. Он был хорошо осведомлен о работе Фельфе в Министерстве по общегерманским вопросам и предложил ему работу в генеральном представительстве «L» «Организации Гелена», находившемся в Карлсруэ. 15 ноября 1951 года Фельфе был зачислен в состав этого представительства. Оно действовало под вывеской торговой фирмы, шефом был бывший сотрудник абвера Бен-цингер. Работа началась с изучения старых личных дел и поиска кандидатов для вербовки. И здесь Фельфе столкнулся с тем, что геле-новская разведка работала не только против Востока. Как он сообщал в Восточный Берлин, в 1951–1952 годах генеральное представительство интенсивно работало над приобретением агентуры в ключевых политических и экономических сферах ФРГ и Западного Берлина: в федеральных и земельных министерствах, политических партиях, профсоюзах и др. При этом заводились досье на ведущих политиков как правящих, так и оппозиционных партий.
Начало работы Фельфе в «Организации Гелена» заставило уделять больше внимания его безопасности и организации надежной конспиративной связи. Наряду с личными встречами, которые стали проводиться два-три раза в год, Фельфе предложил использовать в качестве связника Клеменса, который раз в два месяца регулярно появлялся в Западном Берлине. До 1953 года переход из Западного Берлина в Восточный особых проблем не составлял. Это использовалось для доставки агентурных материалов от Фельфе. По мере упрочения положения Фельфе их количество возрастало: как правило, на каждую встречу Фельфе или Клеменс привозили 10–12 заснятых пленок фотоаппарата «Минокс» и пару магнитофонных катушек. Спустя год с согласия Центра они периодически стали использовать в качестве связника и своего коллегу по Дрездену и по СД Эрвина Тибеля. По их утверждению, Тибель использовался ими «втемную», не зная, что везет и кому. Таким образом, постепенно сложилась агентурная группа, где лидером был Хайнц Фельфе — интеллектуал и организатор.
Работая в генеральном представительстве в Карлсруэ и в одном из филиалов, Фельфе и Клеменс снабжали советскую разведку информацией об операциях на территории ФРГ и ГДР, шпионаже против французских представительств в ФРГ (что делалось по согласованию с американцами). В этот период от Фельфе периодически поступала важная политическая информация. Фельфе смог направить в Восточный Берлин так называемую «Ориентировку 6600», в которой речь шла о мероприятиях геленовской разведки по подготовке к путчу 17 июня 1953 года, а также ряд других документов по проведению специальных мероприятий.
Полученные от Фельфе сведения позволили своевременно прореагировать на инспирированный Западом в 1953 году путч в Берлине.
В соответствии с заданием Центра Фельфе в 1952–1953 годах искал пути и возможности для перехода на работу в центральный аппарат геленовской разведки в Пуллах под Мюнхеном. Решению этой задачи способствовал перевод на руководящую работу в Пуллах из Карслруэ одного из друзей агента.
1 октября 1953 года Фельфе выехал в Пуллах, чтобы приступить к выполнению новых обязанностей в подразделении центрального аппарата геленовской разведки по контршпионажу, задачей которого было проникновение в разведывательные и контрразведывательные службы СССР и некоторых других социалистических стран. Это подразделение являлось ведущим и координирующим. Сюда стекались сведения из всех генеральных представительств и филиалов, в том числе и о совместных операциях с разведслужбами США, Англии и Франции.
К моменту перевода Фельфе в Пуллах «Организация Гелена» представляла собой совершенный шпионский аппарат, соответствующий по стилю и методам работе ЦРУ. И немудрено: за время работы «Организации Гелена» на американцев они вложили в нее около 200 млн долларов.