Поняв, что его поставили перед свершившимся фактом, Гитлер пришел в ярость. Он заявил Г. Гудериану, что планы Г. Рейнгардта являются не чем иным, как предательством, так как они прямо противоречат его, Гитлера, намерениям. Он потребовал немедленного отстранения от занимаемых должностей Г. Рейнгардта и Ф. Госбаха. В штаб группы армий он отправил приказ, категорически запрещавший отступление дальше рубежа Вартенбург – Николайкен. Это ничем не помогало оборонявшимся немецким войскам, так как позволяло выровнять лишь небольшой участок линии фронта в юго-восточной части выступа. Потом связь с ОКХ неожиданно прервалась, и в штабе группы армий не могли дозвониться до кого-либо из представителей высшего военного руководства. Наконец, в 19.15 Г. Рейнгардт на свой страх и риск принял решение отойти на ранее предложенный им рубеж. Он попытался «подсластить пилюлю», отправив наверх донесение о том, что войска группы армий попытаются организовать прочный фронт «не далее чем на рубеже Вартенбург – Бишофсбург – Шиппенбейль – Фридланд». Через два часа пришла телеграмма, в которой сообщалось о снятии с должности его и начальника штаба группы армий.
Утром следующего дня новым командующим группы армий стал Л. Рендулич. Он имел жесткий приказ от Гитлера оборонять Кенигсберг и то, что осталось от Восточной Пруссии. Контрудар в западном направлении начался ночью, несмотря на то что он уже не имел смысла. Можно было бы осуществить прорыв и отступление, как планировал Ф. Госбах, но под командованием Л. Рендулича, за которым стоял Гитлер, который теперь был всегда начеку, об этом не могло быть и речи.
В конце месяца Ф. Госбаха сменил на его посту генерал пехоты Фридрих Мюллер, который после отступления из Греции имел репутацию мастера импровизаций. Благодаря начатому еще при генерале Г. Рейнгардте отступлению удалось несколько ослабить давление на восточном участке обороны 4-й армии. В то же время на северном участке войска 1-го Прибалтийского фронта под командованием И.Х. Баграмяна усилили натиск на Кенигсберг и вытеснили немецкую 3-ю танковую армию на Земландский полуостров. На юге 4-й армии пока удавалось удерживать узкий коридор к Кенигсбергу. Основной угрозой было то, что русские могли преодолеть оставшиеся им на Земландском полуострове до Пиллау примерно 25 км по косе Фрише-Нерунг и отрезать линии снабжения группы армий по морю. (Пока машины с грузами могли направляться из Пиллау в Хейлигенбейль через замерзший залив.)
1 февраля 4-я армия сделала последнюю попытку прорыва на Эльбинг. Она была остановлена мощной контратакой противника.
В течение последующих дней поток беженцев из Восточной Пруссии достиг своего пика. Некоторые покидали эти места морем, большая же часть пешком, через косу Фрише-Нерунг и район дельты Вислы, направлялась в направлении на Данциг. К середине февраля было эвакуировано 1,3 млн из общего числа жителей 2,3 млн человек. Из тех же, кто остался, более половины вступили в ополочение (фольксштурм) или были призваны в вермахт.
Л. Рендуличу в те оставшиеся месяцы войны, очевидно, было уготовано место в истории, подобное Ф. Шернеру. Все его бывшие начальники позже отмечали его абсолютную безжалостность. Для Л. Рендулича, отвечавшего за оборону Восточной Пруссии, не возникало других вопросов, помимо того, как лучше выполнить задачу по удержанию этой территории. В одном из своих приказов он сделал командиров полкового и батальонного звена лично ответственными за удержание «каждой пяди земли». Он приводил пример некоего капитана, которого он лично приказал расстрелять за то, что тот отвел свой батальон назад примерно на 1,5 км после прорыва его обороны. Другим приказом Рендулич ввел у себя в войсках так называемые «летучие военные суды», которые прочесывали полевые районы. Любой военнослужащий, который, не будучи раненым, был пойман вне расположения своей части, подлежал суду и расстрелу на месте.