Balck fikk deretter kommando over Wehrmachts elite-enhet, divisjonen Großdeutschland, som han ledet ved Zjytomyr i 1943. Etter en kortvarig beordring til Italia, hvor han ledet XIV panserkorps, returnerte han til østfronten i desember 1943 som kommandant for XLVIII panserkorps, og deltok i kampene mot den sovjetiske offensiven vinteren og våren, i det vestlige Ukraina i 1944. I juli 1944 ledet Balk korpset under den innledende fasen av den sovjetiske Lvov-Sandomierz-offensiven. Han var tett involvert i det mislykkede forsøket på å unnsette det omringede XIII korps. I august 1944 overtok han kommando over 4. panserarmé.