По окончании гражданской войны Тухачевский занимал в армейской структуре советского государства различные высокие должности, проявил себя в качестве отменного теоретика военного дела. В частности, он отмечал важную роль танковых войск и авиации в исходе будущей войны. В докладе наркому по военным и морским делам К. Е. Ворошилову от 11 января 1930 года Тухачевский указывал, как, по его мнению, должны быть расставлены приоритеты в развитии Рабоче-крестьянской Красной армии:
В том же докладе Тухачевский привел основные показатели, которых, с его точки зрения, должна была достичь обновленная РККА:
Между тем Тухачевский был назначен начальником вооружений РККА, а затем заместителем наркома обороны. В его обязанности, среди прочего, входили вопросы выстраивания стратегии развития вооруженных сил, военно-технического оснащения армии, контроля за выполнением планов вооружения армии. В 1935 году ему наряду с Буденным, Егоровым, Блюхером и Ворошиловым было присвоено звание маршала Советского Союза.
Непосредственной причиной репрессий в отношении советских военачальников послужили разногласия между двумя группами влияния в наркомате обороны; одну из этих групп возглавлял нарком обороны Ворошилов, другую — Тухачевский. Разногласия касались подходов к реформированию армии и подготовки к будущей войне. Ситуацию ярко иллюстрируют слова Жукова в его интервью Симонову:
«Нужно сказать, что Ворошилов, тогдашний нарком, в этой роли был человеком малокомпетентным. Он так до конца и остался дилетантом в военных вопросах и никогда не знал их глубоко и серьёзно… А практически значительная часть работы в наркомате лежала в то время на Тухачевском, действительно являвшимся военным специалистом. У них бывали стычки с Ворошиловым и вообще существовали неприязненные отношения. Ворошилов очень не любил Тухачевского… Во время разработки Устава помню такой эпизод… Тухачевский, как председатель комиссии по Уставу, докладывал Ворошилову как наркому. Я присутствовал при этом. И Ворошилов по какому-то из пунктов… стал высказывать недовольство и предлагать что-то не шедшее к делу. Тухачевский, выслушав его, сказал своим обычным спокойным голосом:
— Товарищ нарком, комиссия не может принять ваших поправок.
— Почему? — спросил Ворошилов.
— Потому что ваши поправки являются некомпетентными, товарищ нарком.»
Разногласия зашли настолько далеко, что сторонники Тухачевского поставили перед Сталиным вопрос о смещении Ворошилова с должности наркома обороны. В споре двух маршалов Сталин встал на сторону Ворошилова как человека, чьи подходы наиболее соответствовали взглядам самого Сталина. Развязка не заставила себя долго ждать.