Высшим уровнем советской военной организации являлся наркомат обороны. Сталин был наркомом обороны с июля 1941 года. НКО состоял из направлений – артиллерии, вооружений, авиастроения, ПВО, связи, резервов, тыла, обучения, военной разведки и контрразведки, и пропаганды, которые функционировали, как органы ГКО. Эффект этой реорганизации был в формальном объединении в руках Сталина контроля и управления всеми военными действиями Советов. Сталинский личный контроль над военными действиями страны был гораздо шире и гораздо полнее, чем у любых других военных руководителей во второй мировой войне. На практике конечно Сталин концентрировался на принятии военных решений. Он наблюдал и выдавал множество решений в отношении других областей государственной деятельности, но стремился передать инициативу, и ответственность доверенным подчинённым, таким, как Берия (внутренняя безопасность), Николай Вознесенский (экономика), Микоян (снабжение), и Лазарь Каганович (транспорт). Только в международной политике принятие решений непрерывно и детально, как и в военной области, оставалось за Сталиным, а Молотов был сталинским ближайшим помощником, с которым Сталин общался чаще, чем с кем-либо в ходе войны.
Реорганизация вооружённых сил была весьма решительной. 10 июля пять фронтов Красной Армии (Северный, Северо-Западный, Западный, Юго-Западный и Южный) были преобразованы в три многофронтовых стратегических «направления». Маршал Ворошилов принял командование Северо-Западным направлением, маршал Тимошенко Западным направлением и маршал Будённый Юго-Западным направлением. 15 июля Ставка издала директиву, упраздняющую большие механизированные корпуса, сформированные годом раньше, и ввела дивизионы, реально обладавшие танками для поддержки пехоты. Направлениям было приказано расформировать большие неуклюжие армии и заменить их меньшими, и более подвижными полевыми армиями, имевшими не более пяти, или шести дивизий. Директива также предусматривала формирование нескольких высокомобильных кавалерийских частей для ударов по врагу, дезорганизации немецкого командования и систем связи, и уничтожения линий снабжения.
16 июля отдел политической пропаганды наркомата обороны был реорганизован в Главное Политическое управление Красной Армии (ГПУ РККА). Одновременно был восстановлен в вооружённых силах институт военных комиссаров. Это означало, что политические офицеры опять будут иметь право «вето» на командирские решения и будут действовать, как заместители командиров на всех уровнях вооружённых сил. 20 июля Сталин и новый глава ГПУ Лев Мехлис издали директиву, обязывавшую всех политических комиссаров действовать по обстановке, и возлагавшую на них особую ответственность за поддержание дисциплины в вооружённых силах, и разрешавшую строго наказывать трусов, дезертиров, и паникёров. Директива запрещала отступление без письменного приказа и возлагала персональную ответственность на комиссаров по обеспечению этой политики. Эта директива была одной из серии изданных Сталиным, отражавших его взгляд, что первоначальные поражения и отступления Красной Армии вызваны отчасти недисциплинированностью, особенно командиров. 17 июля ГКО решил образовать специальный отдел (Особый отдел) НКВД (народный комиссариат внутренних дел), предназначенный для борьбы со шпионами и предателями в Красной Армии, и имевший полномочия казнить дезертиров на месте. 16 августа Сталин издал приказ N'270 – директиву всем вооружённым силам уничтожать трусов и дезертиров на месте, и гласящую, что любой командир, демонстрирующий «робость» во время боя, должен быть немедленно отстранён. Части, попавшие в окружение, по инструкции должны сражаться до последнего человека. Сталин объявил, что впредь с этого момента члены семей трусов, дезертиров и предателей подлежат аресту. 12 сентября Сталин приказал фронтовым командирам сформировать заградительные отряды для остановки бегущих в тыл солдат Красной Армии и для ликвидации паникёров, и дезертиров. Интересно, что Сталин особо оговаривает, что эти формирования должны поддерживать тех солдат, которые отказываются поддаваться панике и боятся окружения.