Sověti zahájili vlastní protiútok již v polovině července a do konce srpna dobyli těžce zkoušený Charkov. V srpnu začala druhá bitva o Smolensk, jenž byl Sověty osvobozen na konci září. Hitler se pokusil zadržet stupňující se nápor Rudé armády vybudováním Východního valu. Tato obranná linie byla ale záhy proražena poté, co v bitvě o Dněpr vytvořili Sověti řadu předmostí na pravém břehu tohoto toku a v listopadu dobyli za účasti československých vojáků Kyjev. Postup Rudé armády neustával a v lednu 1944 byla v rámci leningradsko-novgorodské operace prolomena blokáda Leningradu. Na jihu zatím pokračovalo osvobozování Pravobřežní Ukrajiny, na němž se v rámci žytomyrsko-berdyčevské a korsuň-ševčenkovské operace podíleli i příslušníci 1. československé brigády. Na přelomu března a dubna se části německých vojsk podařilo vyváznout z hrozícího obklíčení v bitvě u Kamence Podolského. Pokračující sovětské ofenzívy zatlačily Němce do konce dubna k řece Prut na rumunských hranicích. Sovětské tanky se dále na západě probily až do blízkosti Lvova, když předtím dosáhly sovětsko-polské hranice z roku 1939. Část německých a rumunských divizí byla odříznuta na Krymu, kde byla dílem zlikvidována při krymské operaci, dílem se je podařilo evakuovat.