Э. Манштейн под давлением Гитлера был вынужден смириться с опасностью, нависшей над его войсками. В тщетной, с точки зрения долговременной перспективы, борьбе за удержание Харькова он сосредоточил усилия на решении самого важного в тактическом отношении вопроса ликвидации разрыва линии фронта между участками 4-й танковой и 8-й армией.
После того как дивизии СС оказались связаны боями на западном участке обороны 8-й армии, Э. Манштейн принял решение организовать контрудар силами 4-й танковой армии. 18 августа дивизия «Великая Германия» и 7-я танковая дивизия нанесли удар с плацдарма в районе Ахтырки. За два дня они прошли через всю брешь и установили контакт с дивизией СС «Мертвая голова», которая растянула свой левый фланг, форсировав реку Мерла. В результате этого контрудара была ликвидирована непосредственная угроза Полтаве. Но в это время фронт 4-й танковой армии снова был прорван севернее.
18 августа Н.Ф. Ватутин, придерживаясь той же тактики, что и в начале наступления, бросил 57-ю пехотную дивизию, удерживавшую участок между Ахтыркой и Сумами, в атаку под мощным огнем артиллерии, минометов и танков противника. К полудню дивизия потеряла всех младших офицеров и почти весь сержантский состав. Ее командование докладывало, что командиры батальонов кричали до хрипоты, но так и не смогли удержать солдат, которые ударились в бегство. В течение последующих двух дней русский фронт оголился примерно на 15 км. На одном из флангов этого разрыва находилось то, что осталось от 57-й дивизии, которая была переименована в войсковую группу. Этим терминам русские стали обозначать соединения, настолько ослабленные численно, что продолжать называть их дивизиями значило вводить себя в заблуждение и было просто нелепо.
20 августа, в день, когда дивизии «Великая Германия» и «Мертвая голова» соединились западнее Харькова и ликвидировали разрыв в линии фронта, командующий 8-й армией генерал О. Вёлер попросил разрешения той же ночью вывести войска из города. Через несколько дней командования армией О. Вёлер в своих оценках был не более оптимистичен, чем предыдущий ее командующий В. Кемпф. Численность XI армейского корпуса, который оборонялся на северных окраинах Харькова, составляла около
С острым недовольством Гитлер разрешил Э. Манштейну эвакуировать Харьков, оговорив при этом условие, что город будет обороняться до последней возможности. Он заявил, что, оставив его, войска подорвут престиж Германии, особенно в глазах Турции. Ведь весной для осмотра «непреодолимой обороны города» в Харькове побывал турецкий главнокомандующий, который посетил армейскую группу «Кемпф».
20 августа Э. Манштейн все еще считал, что сможет удержать Харьков, и отдал приказ дивизии СС «Рейх» выдвинуться на север для поддержки XI армейского корпуса. Однако на следующий день он передумал и дал О. Вёлеру разрешение на «отход при необходимости». На следующее утро дивизия СС «Рейх» нанесла контрудар в полосе обороны XI корпуса, но О. Вёлер проинформировал Э. Манштейна, что намерен оставить город в любом случае. По его словам, артиллерия находилась в катастрофическом положении. Израсходовав последние снаряды, расчеты орудий переходили в пехотные подразделения. Э. Манштейн ответил, что на пути из Германии находятся 24 эшелона с боеприпасами, но согласился с тем, что вряд ли снаряды успеют поступить в войска. Во второй половине дня Гитлер в характерной для него манере потребовал не оставлять Харьков, если контрудар дивизии С С «Рейх» увенчается успехом. Но Э. Манштейн и О. Вёлер были единодушны в том, что это уже невозможно. Той же ночью город в четвертый и последний раз перешел из рук в руки.
Одновременно с тем, когда 8-я армия осуществляла отход южнее Харькова, массированные атаки русских с целью расширить участок прорыва в обороне 4-й танковой армии и вновь открыть путь на Полтаву вынудили Г. Гота отвести свои войска южнее Ахтырки по обеим берегам реки Ворскла. К 25 августа ему удалось стабилизировать обстановку и нанести на участке разрыва фронта контрудар силами двух дивизий. Контрудар имел успех, и к 27 августа 4-я танковая и 8-я армия уже имели сплошной фронт между городами Сумы и Змиев в форме дуги с изгибом на юго-запад.