Когда началась Первая мировая война, Рейхенау вернулся в свой полк и стал адъютантом командира полка. Его полк воевал на Западном фронте. Позднее Рейхенау был переведен в качестве офицера Генерального штаба в 47-ю резервную дивизию. Во время войны он служил еще в штабе 6-го корпуса и 7-й кавалерийской дивизии. Закончил войну в звании капитана и за успешные действия был награжден Железным крестом первой степени, орденом Дома Гогенцоллернов и другими знаками отличия.
Рейхенау служил в качестве офицера Генерального штаба при штабе 6-го военного округа в Мюнстере (1920—1922), затем отбыл годичный срок службы в войсках командиром 8-й пулеметной роты 18-го пехотного полка. Получив в 1923 году чин майора, он служил в штабе 3-го военного округа в Берлине до лета 1926 года, когда и совершил свою первую поездку в Англию. По возвращении оттуда его перевели на другую штабную должность там же в Берлине, в штаб 1-й армейской группы, а 1 ноября 1927 года он был назначен командиром 5-го батальона связи в Штутгарте. В апреле 1929 года он стал подполковником.
После этого Рейхенау провел еще несколько месяцев в Англии. Осенью 1929 года его возвратили в Берлин, назначив начальником штаба при инспекторе связи в министерстве рейхсвера. Этот пост он занимал вплоть до 1 февраля 1931 года, когда его назначили начальником штаба 1-го военного округа в Восточной Пруссии. Спустя ровно год Рейхенау стал полковником.
Рейхенау рано и с энтузиазмом принял национал-социализм. Он относился к национал-социализму не как фанатик новой идеологии, а скорее как «к тарану против марксизма, без которого нельзя было обойтись». Знакомство с Гитлером состоялось в 1932 году. Дядя Вальтера Рейхенау был большим поклонником Гитлера, и он познакомил племянника со своим кумиром.
В это время Рейхенау служил под началом Вернера фон Бломберга. Строя далеко идущие планы, Рейхенау решил познакомить своего шефа с Гитлером. Бломберг легко поддавался влиянию сильных напористых личностей. Полковник представил генерала Гитлеру, которому не понадобилось много времени, чтобы привлечь Бломберга на свою сторону.
30 января 1933 года Адольф Гитлер стал канцлером Германии, а Вернер фон Бломберг был назначен военным министром. Рейхенау тут же присвоили звание генерал-майора и назначили начальником управления в министерстве рейхсвера. Вскоре его стали считать главным связующим звеном между армией и нацистской партией.
В феврале 1934 года встал вопрос о назначении нового командующего сухопутными силами Германии после вынужденного ухода в отставку Курта фон Хаммерштейна, занимавшего этот пост. Предложенная Гитлером кандидатура Рейхенау не нашла поддержки у президента Гинденбурга, и сухопутные силы Германии возглавил Вернер фон Фрич.
Рейхенау тесно связал свою судьбу с нацистами. Он прекрасно понимал, что если нацистов лишат власти, то его карьере наступит конец. Видя, что штурмовики с каждым днем все больше набирают силу, а генералитет готов выступить не только против отрядов Рема, но и против Гитлера, Рейхенау вступил в сговор с Герингом и главой СС Гиммлером, которые также не желали мириться в растущей властью СА. Для этого был только один выход – СА должны быть разгромлены, а Эрнст Рем должен умереть.
Операция по ликвидации СА получила название «Ночь длинных ножей». В ходе «чистки» сто пятьдесят руководителей СА были схвачены и расстреляны. Армии было приказано не вмешиваться в конфликт между СС и СА, а Рейхенау остался в привычной для себя роли связного между армией и теперь уже СС. Также известно, что Рейхенау снабдил отряды СС оружием.
После смерти президента Гинденбурга Гитлер, упразднив должность президента, стал именоваться фюрером и рейхсканцлером Третьего рейха. Солдаты были приведены к присяге, текст которой был написан Рейхенау. Военные давали присягу не республике, а лично фюреру, что устраняло возможность участия в заговоре против Гитлера со стороны большинства офицерского корпуса.
Рейхенау решил для дальнейшего продвижения по службе уйти со штабной работы и получить должность командира в армейской части. Он помнил, что одна из причин, по которым он не получил пост главнокомандующего сухопутными силами, состояла в недостаточном опыте командования крупными войсковыми соединениями. В августе 1935 года он был произведен в чин генерал-майора и через два месяца получил под свое командование 7-й военный округ. Рейхенау в Берлине сменил генерал-майор Вильгельм Кейтель.