Etter å ha ledet sine avdelinger på en utmerket måte, ble Gretsjko i oktober 1943 utnevnt til nestkommanderende for Den 1. ukrainske front. I oktober samme år ble han sjef for 1. gardearmé, en post han beholdt til krigens slutt. Avdelingen var en del av Den 4. ukrainske front og rykket fram Ukraina, Karpatene og Galicia og deltok i frigjøringen av Polen og Tsjekkoslovakia.