Главным участником уличных боев за Харьков стала дивизия «Лейбштандарт Адольф Гитлер». Утром 11 марта тремя боевыми группами дивизия начала штурм города со стороны Белгородского шоссе. К 12 марта Г.Гот поменял свое решение об использовании эсэсовских дивизий в штурме города. Втягивание II танкового корпуса СС в уличные бои означало возможность для защитников города вести бои до тех пор, пока это было целесообразно, а затем без помех покинуть Харьков. Поэтому командующий 4-й танковой армии приказал Хауссеру вывести из боев за Харьков дивизию «Дас Райх», сменить ей «Тотенкопф», бросив последний в обход города с северо-востока. Углубившаяся в город на километр дивизия «Дас Райх» была выведена назад и разорвана на две части. Полк «Дойчланд» был брошен на позиции к северу от города, а «Дер Фюрер» должен был обойти город с юга и атаковать ХПЗ.
День 12 марта прошел под знаком решения Г.Гота на обход Харькова. С севера в обход города двинулась боевая группа Баума дивизии «Тотенкопф», сосредоточившаяся к вечеру в Байраке. К югу от города изменил вектор своего наступления XXXXVIII танковый корпус. Теперь он должен был атаковать в направлении Чугуева с целью охвата Харькова с юга. Однако наступление 11-й танковой дивизии с плацдарма у Змиева было неудачным, дивизию встретил сильный огонь артиллерии и противотанковых орудий. На помощь XXXXVIII корпусу выдвигалась 106-я пехотная дивизия. После вывода из города «Дас Райха» дивизия «Лейбштандарт» продолжила штурм города в одиночку. Уличные бои за крупный город всегда были непростой задачей. Бичом немецких танков и самоходных орудий стали 76,2-мм пушки которые оборонявшие город советские войска устанавливали в подвалах и вели огонь вдоль улиц. Для уличных боев в «Лейбштандарте» были организованы штурмовые группы, каждая из которых поддерживалась танком и 75-мм и 150-мм тяжелыми пехотными орудиями.
Средств для противодействия обходу города после убытия в 40-ю и 69-ю армию корпусов Вовченко и Баданова в распоряжении командующего 3-й танковой армией не было. Единственным резервом в руках П.С.Рыбалко был 18-й танковый корпус Б.С.Бахарова. Вскоре ему пришлось вступить в бой с эсэсовскими частями. Боевая группа Баума (в которую входил батальон танкового полка дивизии «Тотенкопф») 13 марта вышла к Рогани, где успешно обратила в бегство части 113-й стрелковой дивизии. Однако на пути дальнейшего продвижения эсэсовцев «Тотенкопфа» встали части корпуса Бахарова. В бою за Рогань корпус заявил об уничтожении 5 танков противника огнем своих танков и 12 — артиллерией. Приданный 141-й танковый полк заявил об уничтожении еще 3 немецких танков ценой потери 1 T-34 и 1 Т-70. В полку оставался 1 T-34 и 4 Т-70. Ночью 14 марта 18-й танковый корпус получил приказ подчинить себе 173-ю отдельную бригаду Мишулина, выбить противника из Рогани и выйти на северо-восточную окраину Харькова. В 8.00 после залпа двух дивизионов РС 2 танка T-34 и 4 Т-70 с десантом мотострелков пошли в атаку и выбили немцев из Рогани южной. Однако в 14.00 контратакой, поддержанной танками, были отброшены назад. Совместно с 113-й стрелковой дивизией корпус занял оборону на полпути к Чугуеву, в Каменной Яруге. Согласно докладу командира корпуса в боях за Рогань 13 и 14 марта было подбито 18 танков противника, два бронетранспортера и 7 автомашин. 173-я танковая бригада отчиталась о 13 танках, 15 орудиях ценой потери 12 T-34. На 14 марта бригада насчитывала 7 танков. На следующий день, 15 марта, полк «Тотенкопфа» начал наступление на Чугуев при поддержке авиации и вышел к нему к ночи 16 марта.
Корпус Б.С.Бахарова мог задержать смыкание кольца вокруг Харькова на сутки или двое, и эту задачу он в целом выполнил. Поняв, что избежать окружения города не удастся, командующий 3-й танковой армией 15 марта принял решение вывести окружаемые в городе и его пригородах соединения. Генерал-майор Е.Е.Белов, руководивший обороной города, принял решение пробиваться в направлении на юго-восток, между Змиевым и Чугуевым. Прорыв должен был осуществляться двумя группами. В первую входили 303-я и 350-я стрелковые дивизии и 17-я бригада НКВД, во вторую — 19-я стрелковая дивизия, 253-я и 104-я стрелковые, 86-я и 195-я танковые бригады. Прикрывать отход должна была 62-я гвардейская стрелковая дивизия. Прорыв был осуществлен в целом успешно, и к 17 марта защитники Харькова сосредоточились на восточном берегу реки Северский Донец. В ходе прорыва погибли командир 17-й бригады войск НКВД полковник И.А.Танкопий и командир 62-й гвардейской стрелковой дивизии гвардии генерал-майор Г.М.Зайцев. В состав 3-й танковой армии поступил 1-й гвардейский кавалерийский корпус, и при его поддержке армия организовывала оборону восточнее Харькова. Стабилизации обстановки способствовало изменение направления движения II танкового корпуса. Корпус сдавал позиции в районе Харькова XXXXVIII танковому корпусу и разворачивался для наступления на север.
Наступление на Белгород