Gretško liittyi puna-armeijan ratsuväkeen Venäjän sisällissodan aikana vuonna 1919 ja valmistui ratsuväkikoulusta vuonna 1926 sekä Frunzen sotilasakatemiasta vuonna 1936. Hän liittyi Neuvostoliiton kommunistisen puolueen (NKP) jäseneksi vuonna 1928. Hänet nimitettiin vuonna 1938 ratsuväkidivisioonan esikuntapäälliköksi. Toisen maailmansodan puhjettua Gretško osallistui syyskuussa 1939 hyökkäykseen Puolaan. Hän osallistui myös talvisotaan jalkaväkirykmentin komentajana. Gretško suoritti vuonna 1941 yleisesikunta-akatemian ja palveli puna-armeijan pääesikunnassa suuren isänmaallisen sodan alkaessa. Hän toimi heinäkuusta 1941 alkaen lounaan rintamalla 34. ratsuväkidivisioonan ja tammikuusta 1942 alkaen V ratsuväkiarmeijakunnan komentajana. Hän siirtyi huhtikuussa 1942 12. armeijan, syyskuussa 47. armeijan, lokakuussa 18. armeijan ja tammikuussa 1943 56. armeijan komentajaksi. Hänen joukkonsa osallistuivat taisteluihin Pohjois-Kaukasuksen rintamalla.