В мае 1940 г. состоялась встреча Георгия Константиновича со Сталиным. Генсек внимательно выслушал мнение героя о событиях на Халхин-Голе, о состоянии японских войск. А через месяц Жуков вступил в командование войсками Киевского Особого военного округа и стал генералом армии. Все чаще он задумывался над действиями фашистов в начавшейся на Западе Второй мировой войне, понимая, что Советский Союз также находится под угрозой.
В декабре 1940 г. Жуков выступил на совещании высшего командного состава армии в Москве с докладом «Характер современной наступательной операции». Он говорил о многом: о том, что вскоре предстоит война с опытным, прекрасно вооруженным противником, что уже нет времени готовиться к ней и надо рассчитывать на те силы, которыми советские войска располагают сегодня. Как писал И. Х. Баграмян, «это заявление Г. К. Жукова изумило всех». Сталин до самой последней минуты хотел избежать войны, хотя получал многочисленные предупреждения разведчиков о подготовке немцев к нападению на Советский Союз. Такая нерешительность Верховного главнокомандующего во многом стала причиной неудач советских войск в начале войны и огромных человеческих потерь, которые они понесли.
В январе 1941 г. Жукова назначили начальником Генерального штаба. Он очень многое сделал в этой должности для того, чтобы за достаточно короткий срок как можно лучше подготовить армию к неумолимо приближающейся войне. Георгий Константинович трудился по 15–16 часов в сутки, часто оставался в служебном кабинете и на ночь, напряженно работая над планом стратегического развертывания Красной армии, мобилизационным планом для промышленности по производству продукции на случай войны. Следует отметить, что не все приказы Жукова в ходе подготовки к войне были хорошо продуманы. По его распоряжению около границы складировались боеприпасы, топливо и запчасти, предназначенные для осуществления предполагаемой наступательной операции советских войск. Но нередко этот важный груз оставался лежать на открытом воздухе без всякой охраны, поэтому в первые дни войны немцы без труда его захватили.
Вечером 21 июня Жуков доложил Сталину о появлении немецкого перебежчика, сообщившего, что утром 22 июня начнется наступление на Советский Союз. Начальник Генштаба настаивал на немедленном приведении всех войск приграничных округов в полную боевую готовность. Но Сталин все еще надеялся на то, что дело уладится мирным путем. Между тем в ночь с 21 на 22 июня Жуков получил сообщение о том, что немцы бомбят советские города. Он немедленно доложил об этом Сталину. И хотя тот и являлся Верховным главнокомандующим, все же значительный груз ответственности за исход войны Жукову пришлось принять на свои плечи. Сталин явно не доверял профессиональным военным, а под воздействием катастрофического для Советского Союза начала войны это недоверие только усилилось. Жуков неоднократно принимал на себя всю силу гнева диктатора. Когда начальник Генштаба предложил оставить Киев, чтобы уберечь от окружения силы Юго-Западного фронта, а затем высказал мысль о возможности нанесения контрудара по ельнинскому выступу немцев на западном направлении, Сталин бестактно оборвал его и сказал, что это чепуха. Жуков с достоинством заметил, что если он несет чепуху, его лучше освободить от занимаемой должности. «Просьбу» удовлетворили, и Георгий Константинович стал командующим Резервным фронтом. Однако когда Западный фронт под руководством Жукова отстоял Москву, Сталин понял, что без этого талантливого генерала ему не обойтись.
В августе 1942 г. Жуков стал первым (и единственным) заместителем Верховного главнокомандующего. В это время над Сталинградом нависла серьезная угроза. Георгий Константинович вместе с начальником Генштаба А. М. Василевским не позволил противнику захватить город, а кроме того, выдвинул смелый план мощного контрнаступления советских войск и отстоял этот план перед Сталиным. Как известно, битва под Сталинградом стала переломным моментом в ходе войны.
С августа 1942 г. по ноябрь 1944 г. в 15 самых ответственных операциях на Жукова возлагались обязанности по координации действий фронтов. При этом маршал нес полную ответственность за исход операций. В ходе Сталинградской битвы он координировал действия войск Донского и Юго-Западного фронтов, летом 1943 г. – действия Западного, Брянского, Центрального, а затем Воронежского и Степного фронтов в Курской битве. С июля по ноябрь 1944 г. Жуков отвечал за освобождение Белоруссии силами 1-го и 2-го Белорусских фронтов. В ноябре 1944 г., встав во главе войск 1-го Белорусского фронта и действуя совместно с командованием других фронтов, он блестяще осуществил Висло-Одерскую операцию, а затем и битву за Берлин.