С организацией внешнеполитического отдела Розенберг получил большие полномочия для расширения своей агентуры на юге и востоке Европы. Под руководством этого отдела в Вене действовал особый украинский комитет, который вел пропаганду по «украинским делам», налаживал связи с украинскими националистами на территории Украины и в центрах украинской эмиграции, главным образом в Варшаве, Париже, Праге и Белграде. В Вене также было создано особое разведывательное бюро, в задачи которого входило ведение разведки против Советской Украины, а также установление контактов с профашистскими организациями в Чехословакии, Венгрии, Румынии, Болгарии и Югославии. Подобный орган для осуществления разведки на Балканах и в Советском Союзе действовал и в Венгрии.
Придавая особое значение организации подрывной деятельности на советской территории, немецко-фашистская разведка использовала все возможности для проведения шпионажа, диверсий, антисоветской пропаганды.
Под флагом шовинистической идеи о единстве германской нации фашисты намеревались подчинить своему влиянию всех немцев на земном шаре, считая, что они должны служить интересам только Германии. Исходя из этого, гитлеровская разведка развернула активную работу по установлению связей и привлечению к подрывной деятельности против СССР немцев, переселившихся в свое время из Германии и проживавших на Украине, Кавказе, в Поволжье, Средней Азии и других районах. Под видом помощи переселенцам отдел зарубежных немцев, созданный по указанию национал-социалистской партии, и фашистские разведывательные органы систематически направляли из Германии в СССР посылки и денежные переводы в целях вербовки новой агентуры.
Засланные агенты абвера и гестапо выискивали среди получателей почтовых отправлений из Германии политически неустойчивых лиц для осуществления подрывных акций. Чтобы вовлечь в шпионскую работу советских граждан немецкого происхождения, разведывательные службы фашистской Германии действовали всеми доступными им способами: шантажом, угрозами, подкупом и т. п.
В сборе шпионской информации активно участвовали германское посольство в Москве, дипломатические миссии и другие представительства. Немецкие дипломаты-разведчики привлекали к шпионажу против Советского Союза многих сотрудников дипломатических представительств Австрии, Турции и некоторых других капиталистических государств, представителей различных фирм, акционерных обществ и иных организаций, участвовавших в строительстве новых предприятий на территории СССР.
Для вербовки агентуры и организации разведывательно-подрывной деятельности на территории СССР гитлеровцы использовали деловые связи Германии. Именно в этих целях в Германии был создан русский комитет германской промышленности, во главе которого стоял опытный разведчик Чунке. Сотрудники немецких торгово-промышленных учреждений, находившихся в СССР, тщательно отбирались, проходили специальную разведывательную подготовку и только после этого направлялись для «коммерческой» деятельности в Советский Союз.
Одним из легальных прикрытий для фашистской агентуры являлся высший церковный совет — руководящий орган лютеранской церкви, который поддерживал связь с находившимися в СССР пасторами. От некоторых из них разведка получала сведения об экономике и политическом положении Советского Союза. Германская разведка активно использовала немцев — проповедников сектантских групп (менонитов и адвентистов), существовавших в Москве, Ленинграде, Поволжье, среднеазиатских республиках, Азербайджане, Орджоникидзевском крае. Фашистские разведывательные органы полностью подчинили своему влиянию находившиеся в Германии центры украинских, армянских и грузинских буржуазно-националистических организаций.
Разоблачение агентов разведывательных служб Германии, заброшенных в СССР, показывало, что фашистские лазутчики стремились получить сведения не только о количестве и качестве вооружения и боевой техники, но и о стратегических пунктах и подходах к ним, рельефе местности, мостах и переправах; это свидетельствовало о том, что немецкие шпионы собирали данные, необходимые для разработки плана нападения на Советский Союз.
Процесс создания фашистского тотального разведывательного аппарата и процесс формирования вермахта протекали параллельно, во взаимной связи. Они в основном завершились к 1935 г. В разведывательную деятельность было вовлечено огромное количество учреждений и организаций, создана массовая агентура внутри страны и за границей. Однако в своей враждебной по отношению к СССР деятельности германская разведывательная служба потерпела полное поражение.