Как и многие офицеры генштаба, Гелен сначала отрицательно отнесся к идее военного похода на Восток, считая это, как в свое время и «отец» немецкой нации Бисмарк, опасной авантюрой для Германии. На посту начальника 12-го отдела чувство прозорливости и реальности покинуло честолюбивого полковника и он уже не высказывал сомнений в целесообразности восточного похода. В своих прогнозах, особенно на первом этапе войны, Гелен исходил из того, что Советский Союз стоит на пороге своего поражения. Вероятно, по этой причине он допустил грубый просчет в оценке военной ситуации в районе Сталинграда в ноябре 1942 года, который, имел трагические последствия. Тогда Гелен отправил в ставку разведывательное донесение о том, что в районе Сталинграда не следует ожидать крупного наступления Красной Армии. Однако этому прогнозу не суждено было сбыться, так как именно в это время началось неожиданное, стремительное наступление Красной Армии, в результате которого была окружена 6-я армия фельдмаршала Паулюса. Именно здесь, под Сталинградом, наступил решающий перелом в ходе войны. Вероятно, искупая и исправляя эту роковую ошибку, Гелен впоследствии будет выступать поборником ведения войны до победного конца. Даже 31 декабря 1944 года в одной из своих сводок он выскажет мнение, что войну можно выиграть, если взять военную инициативу в свои руки. Маловероятно, чтобы серьезный аналитик Гелен, получивший к тому времени генеральское звание, искренне верил своим оценкам. Военная машина нацистской Германии находилась на краю пропасти, надо было думать о будущем, о том, как выжить, а может быть, еще и преуспеть. Генералу поступала информация о противоречиях в лагере союзников. «Он был одним из немногих немцев, — писал журнал «Штерн», — которые знали, что военные руководители США и ее разведорганы уже рассматривали Советский Союз не как союзника, а как потенциального противника в будущей войне». Накануне капитуляции он решил предложить свой почти полностью сохранившийся аппарат, свои услуги специалиста по Советскому Союзу американцам или англичанам, конечно, за соответствующие гарантии личной безопасности и деньги. Архивы и картотека отдела «Иностранные армии Востока» были пересняты на пленку и спрятаны в тайниках во Фленсбурге в Баварии. В конечном итоге в своей расчетливой игре генерал сделал ставку на американцев, которым добровольно сдался в плен в самом конце войны. Ему довольно быстро удалось убедить американцев, что именно он, Гелен, с его знаниями, опытом, с опытными кадрами будет для них незаменимым человеком по части разведки против Советского Союза. Так, уже в 1946 году он начал работать на американцев, продолжив свое основное занятие — шпионаж против СССР, как он это делал и при Гитлере.
С благословения и помощью новых хозяев им была создана разведывательная служба, получившая название «Организация Гелена», или просто организация, к работе в которой бывший генерал привлек проверенные и зарекомендовавшие себя на деле «старые кадры». Вскоре было выбрано подходящее место для штаб-квартиры ОГ — поместье бывшего заместителя Гитлера Гесса в Пуллахе под Мюнхеном. Вот что рассказывал X. Фельфе об условиях жизни геленовцев в тяжелые для Германии первые послевоенные годы:
«Для семей сотрудников Гелена установили далеко не голодные рационы, у них никогда не отключалась электроэнергия и не существовало никаких ограничений, обычных тогда для немецкого населения. Здесь всего было в изобилии: тепло от центрального отопления, продовольствие из запасов армии США, табак, кофе, масло, пошивочный материал, короче говоря, никакой нехватки, в то время как немецкое население голодало и мерзло, часто не имея пригодных жилищ… На территории ОГ в Пуллахе были также детский сад, больница, парикмахерская, столовая, прачечная, кинотеатр, то есть все необходимое для того, чтобы не чувствовать неприятных последствий проигранной войны».