В годы «холодной войны» в Карлсхорсте размещалась танковая бригада Советской армии, усиленная мотострелковыми частями и другими подразделениями. Часть района была превращена в советский военный городок с поликлиникой, госпиталем, вечерней школой для старшин и офицеров, Домом офицеров, средней школой № 113 в бывшем монастыре, русско-немецким детским садом «Дружба», библиотекой, магазинами, парком… Никаких ограничений на доступ сюда для немцев не было. По ночам, однако, кое-где выставляли часовых. В гарнизоне насчитывалось до двух тысяч человек, где около 800 человек составляли солдаты срочной службы.
Стоящий в конце улицы Рейнштайнштрассе, на ее пересечении с Цвизелерштрассе, германо-российский музей «Берлин-Карлсхорст» тогда называли Маршалхаузом. За ним располагалась воинская часть с солдатскими казармами, стрельбищем, танковым полигоном. Там начиналась запретная зона, куда вход для посторонних был строго по пропускам. Но вездесущие мальчишки бегали на полигон за гильзами. Случалось и покататься на танках.
Временами рокот моторов и лязг гусениц по брусчатке извещали о том, что танки выходят на полигон. Сегодня в музейном парке устроена экспозиция военной техники: стоят танки, орудия, самоходные установки.
На Цвизелерштрассе в помещениях академии и других зданиях от дома № 5 до дома № 60 находились служебные и жилые помещения КГБ. В Карлсхорсте размещались и воинские подразделения, охранявшие советские военные памятники в Берлине, а также тюрьму в западноберлинском районе Шпандау, где сидели тогда семеро фашистских военных преступников. На охрану тюрьмы советские солдаты заступали в марте, июле, ноябре. То есть на каждую группу оккупационных войск приходилось по три месяца. В состав караула входили 29 военнослужащих. Советские солдаты обычно сменяли французов и сдавали охраняемый объект американцам. Начальники выстроенных друг против друга караулов обменивались короткими рапортами, после чего первая смена часовых отправлялась на посты.
Из Карлсхорста разъезжались патрули советской военной автомобильной инспекции, которые несли службу на «КПП обвода города», располагавшихся на въездах в Берлин. В их задачу входило недопущение самовольного въезда в столицу ГДР советских военных автомашин. Кроме того, советские солдаты, служившие в Карлсхорсте, помогали местной полиции пресекать попытки выезда автомобилей иностранных военных миссий за пределы города. В то же время по Карлсхорсту время от времени проезжали (исключая запретные места) автомобили западных военных миссий (в основном американцы). Точно так же, согласно договоренности, советские военные инспектировали места расквартирования подразделений потенциального противника в Западном Берлине.
К моменту вывода советских (российских) войск в Карлсхорсте была расквартирована 6-я отдельная гвардейская мотострелковая Берлинская ордена Богдана Хмельницкого бригада.
Советские обитатели Карлсхорста называли его на русский манер «Карловка», их дети — «Карликом». Некоторые одинокие офицеры снимали комнаты у местных жителей. Семьи военнослужащих иногда жили в одних домах с немцами. Были добрыми соседями. К Рождеству у порога квартиры, где жили офицеры с детьми, выкладывались подарки от всех жителей подъезда.
Немецкие дети свободно играли с советскими. Местные подростки приходили, например, погонять шары в бильярд в советскую библиотеку. Все вместе лазили на высоченные ореховые деревья, после чего несколько дней не могли отмыть руки от коричневого сока.
Зимой 1971 г. на Берлин навалился небывалый снегопад. Городской транспорт встал. Немцы обратились за помощью в советский гарнизон. Русские вывели на улицы… танки, на которые были навешены бульдозерные ковши-отвалы. Снег убрали быстро, а заодно «отчистили» трамвайные пути от стрелочных механизмов, которых не было видно под снегом.
Когда в продовольственный магазин самообслуживания завозили советское мороженое и конфеты, немцы срочно устремлялись туда. У русских в эти дни был полный восторг от любимых вкусностей и гордость за державу. В военторговском магазинчике время от времени выстраивалась очередь из немцев. Ждали печенку, с которой в ГДР были проблемы, русским предлагали пройти без очереди.