Первые контакты с целью налаживания сотрудничества между военным руководством России и Германии начались в августе-сентябре 1920 года (дипломатические отношения между РСФСР и Германией в полном объеме были восстановлены только в марте 1922 года после подписания договора в Рапалло). Главнокомандующий сухопутными войсками рейхсвера генерал Х. фон Сект, один из самых активных сторонников этого сотрудничества, рассчитывал, что с помощью Советской России Германия сумеет ликвидировать последствия Версальского договора, а впоследствии можно будет восстановить общую границу между государствами на возможно большем протяжении. Однако после неудач Красной Армии в 1920 году в Германии «идея восточной ориентации… сильно померкла». На передний план вышла идея долговременного военного сотрудничества.
В результате серии секретных двусторонних переговоров в Москве и Берлине в 1920–1923 годов была выработана концепция двустороннего военного сотрудничества. Причем, как сообщалось наркому иностранных дел Г. В. Чичерину, генерал фон Сект настаивал на желательности «установить более тесный контакт между германскими и нашими военными властями». Германская сторона настаивала на том, чтобы немецкие военные специалисты приняли участие в создании советской военной промышленности с целью использования ее затем «как источника вооружения для разоруженной Германии при столкновении ее с Антантой». России было дано понять, что при вооруженном столкновении с Польшей Германия рассчитывает на помощь Советской России, а ей будет оказана всемерная помощь как в закупках оружия и военных материалов в Германии, так и в получении сведений о Польше.
В начале 1921 года для осуществления связей с наркоматом обороны и руководством Красной Армии в военном министерстве Германии была создана «Зондергруппа Р», именуемая советской стороной «Вогру» (то есть военная группа). В течение всего 1921 года в Берлине и Москве шли интенсивные переговоры. Одним из результатов их стало принятие на Политбюро ЦК РКП(б) плана восстановления промышленности (прежде всего военной) РСФСР «при помощи немецкого консорциума, предложенный представителем группы виднейших военных и политических деятелей» Германии. В своей записке в ЦК РКП(б) 10 июля 1921 года Г. В. Чичерин писал: «первоначально немцы больше всего интересовались военной промышленностью. Производимое вооружение оставалось бы у нас… на складах до момента новой войны. На наш вопрос, как решаются немцы оставить на складах у нас это оружие без гарантий, они отвечают, что гарантия — единство политических интересов… Для финансирования предприятия образован консорциум по инициативе «Дойчеориентбанк», в который входят все крупнейшие банки в Германии, за исключением связанной со Стиннесом Дисконто-Гезельшафта. От нас требуются юридические гарантии (правовые основы предприятия) и финансовые: гарантия прибыли минимум 6 %, а группа военных и политических деятелей депонирует сумму для обеспечения от излишнего риска».
Советская сторона в целях восстановления оборонной промышленности давала обязательства создать трест, в который бы вошли основные предприятия по изготовлению тяжелой артиллерии (Мотовилиха, Царицын), самолетов (Рыбинск, Ярославль), пороха, снарядов и т. д. Необходимые средства для его развития должна была дать немецкая сторона, финансируя свои заказы. 24 сентября 1921 года были названы первые цифры: «1000 самолетов, 300 полевых орудий, 300 тяжелых орудий, 200 зенитных, 200 пулеметов, 200 бронеавтомобилей, по 3000 штук снарядов для каждого орудия».
В июле-августе 1921 года первый уполномоченный от рейхсвера О. фон Нидермайер под псевдонимом Ноймана в сопровождении заместителя наркома иностранных дел России Л. М. Карахана ознакомился с состоянием оборонных заводов и верфей Петрограда. Эти предприятия рассчитывали восстановить при помощи немецкого капитала и немецких специалистов. Представители Круппа и Юнкерса осмотрели в течение 1921–1922 годов другие интересовавшие их заводы.
16 апреля 1922 года в Рапалло, что под Генуей, был подписан договор между Советской Россией и Германией. Государства взаимно отказывались от возмещения военных расходов и убытков, а также от других мероприятий государственных органов сторон (в первую очередь это касалось национализации иностранной собственности и репараций). С этого момента между странами официально возобновлялись дипломатические отношения в полном объеме, и начиналось всестороннее развитие экономических отношений. Вопросы военного сотрудничества в Раппало не затрагивались, но этот договор создавал крепкую правовую базу их расширения. Оно позволяло существенно улучшить вооруженность Красной Армии, а также повысить квалификацию ее командного состава. Германия же в обход военных ограничений Версальского договора осуществляла подготовку военных кадров и налаживала производство вооружений.