Судьба маршала Тухачевского была предрешена. Вместе с ним 11 июня 1937 года перед судьями предстали: Якир, Уборевич, Путна, Примаков, Корк, Эйдеман, Фельдман. По обвинению в шпионаже всех их приговорили к высшей мере наказания без права обжалования. Осенью того же года был репрессирован еще один маршал — А.И. Егоров, а спустя год, 9 ноября 1938 году, в бериевских застенках погиб маршал Блюхер. Всего было репрессировано около 43 000 человек командного состава Красной Армии (55 процентов командного и политического состава армии и флота от командира полка и выше).
23 августа 1939 года между Германией и СССР был подписан Пакт о ненападении, а уже 1 сентября Германия вторглась на территорию Польши. Началась Вторая мировая война. 17 сентября советские войска перешли границу, определенную Рижским договором 1921 года, и оккупировали территорию Западной Украины и Западной Беларуси. 28 сентября был подписан договор о новой границе, теперь уже между Германией и СССР. Время неумолимо приближало неотвратимое столкновение.
В воскресенье 22 июня 1941 года немецкая авиация бомбила советские города. Через два дня после начала войны Сталин уехал из Москвы. Несколько дней подряд он не покидал свою дачу в Кунцево. Обращение к советскому народу с призывам к Отечественной войне зачитал Молотов. Растерянность Сталина достигла такой степени, что он даже высказывал мысль об отставке.
Однако некоторые из современных исследователей утверждают, что подобный его трюк был очередной уловкой. Этим он демонстрировал соратникам свои собственные величие и незаменимость. 30 июня к нему приехали члены Политбюро. По одной из существующих версий, он якобы подумал, что пришли его арестовать. Но они приехали по другой причине — привезли предложение о создании Государственного Комитета Обороны. К этому моменту уже были захвачены Литва, значительная часть Латвии и Беларуси, часть Западной Украины. Председателем ГКО был избран Сталин.
В этом новом качестве 3 июля он выступил по радио с несколько несвойственным для него обращением: «Дорогие соотечественники и соотечественницы, братья и сестры…». Не без влияния Жукова и других военачальников по приказу Сталина из ссылок и тюрем были возвращены генералы, а также ряд ученых и конструкторов.
Среди них были: К. Рокоссовский, К. Мерецков, А. Горбатов, И. Тюленев, С. Богданов, Г. Холостяков, А. Берг, А. Туполев, Л. Ландау, В. Мясищев, Н. Поликарпов и некоторые другие, сыгравшие важную роль в защите Отечества.
За первый месяц войны немцы захватили 175 000 квадратных километров советской территории. Используя превосходство в воздухе, механизированные соединения немцев прорывали линии обороны, окружали и уничтожали целые дивизии и корпуса. К началу сентября в условиях блокады оказался Ленинград, на московском направлении в конце июля был занят Смоленск, к концу сентября — Киев. За первые 15 недель войны потери Красной Армии убитыми и пленными составили свыше 3 миллионов человек. Однако в результате ожесточенного сопротивления советским войскам удалось сорвать немецкий план «блицкрига». В боях с Красной Армией, защищавшей каждую пядь земли, немцы, даже в период своего самого быстрого продвижения, несли ббльшие потери, чем в любой из своих предыдущих кампаний.
19 июля Сталин занял пост наркома обороны, а 8 августа он был назначен Верховным Главнокомандующим Вооруженными Силами СССР. Современники единодушно отмечают его удивительную способность разбираться в обстановке. Но его представления о стратегии были в определенной мере устаревшими, они были связаны с опытом гражданской войны. Большой вред принесло в начале войны его стремление постоянно навязывать советским войскам наступление. Даже в условиях катастрофического положения на Западном фронте он в первые дни войны понуждал к наступательным боям. Под Москвой Сталин нетерпеливо подстегивал войска к переходу в контрнаступление, когда сил хватало только для обороны. Наступление под Харьковом также было неудачным. После начального успеха советского наступления немцы развернули контрнаступление и окружили войска Красной Армии. Сталин приказал приостановить наступление, когда было уже поздно. Две армии попали в окружение. На Южном фронте немцы почти беспрепятственно продвигались вперед. В этот момент отчаянного положения Сталин отдает свой известный приказ № 227, в котором было сформулировано требование: «Ни шагу назад!». Позади линии фронта были поставлены заградительные отряды.
Осенью 1941 года смертельная угроза нависла над Москвой. 19 октября за подписью Сталина было опубликовано постановление ГКО о введении в столице осадного положения. В это время немцы находились в нескольких километрах от Красной площади. Только ценой неимоверных усилий, тотальной мобилизации в тылу и на фронте удалось переломить ход событий. Какой ценой был завоеван этот перелом, дает представление приказ Жукова генералу Панфилову, смысл которого сводится к следующему: или вы остановите наступление немцев, или мы вас арестуем и расстреляем.