A szovjet csapatok azonban a Donyec jobb partján sikeresen felszámolták a német állásokat, így a Harkovot védő Werner Kempf páncélos tábornok augusztus 12-én elrendelte a város feladását - Hitler parancsa ellenére -, megakadályozandó, hogy Harkov körül egy "újabb Sztálingrád" jöjjön létre. Kempf felettese, Erich von Manstein - habár egyetértett a tábornok döntésével - Hitler parancsára felmentette pozíciójából és helyére Otto Wöhler gyalogsági tábornokot helyezte, aki folytatta Harkov védelmét. Hosszú utcai harcok után - a Poltava-Harkov vasútvonal áttörése után - azonban Manstein augusztus 22-én elrendelte a város feladását. Augusztus 23-án reggel 11 órára a város teljesen a szovjet csapatok fennhatósága alá került.