Gretschko, Sohn ukrainischer Eltern, trat 1919 in die Rote Armee ein und diente in Budjonnys 1. Roter Reiterarmee. Nach dem Ende des Bürgerkrieges und nach Abschluss seiner Schulausbildung trat er 1925 in die 6. Kavallerieschule ein und schloss 1926 seine erste militärische Ausbildung ab. Er wurde 1928 Mitglied der KPdSU. 1936 besuchte er die Frunse-Militärakademie. Zu Kriegsbeginn im Juni 1941 kommandierte er die 34. Kavalleriedivision. Sie stand in der Nähe von Krementschug. Im Winter 1942 übernahm er die Führung des V. Kavalleriekorps. Ab 8. September 1942 wurde die 47. Armee, die er führte, im Raum Noworossijsk eingesetzt. Im Oktober 1942 erhielt er den Befehl über die 18. Armee und als Generalmajor am 5. Januar 1943 den Oberbefehl über die 56. Armee, die im Zuge der Nordkaukasischen Operation am 12. Februar Krasnodar zurückeroberte. Im Dezember 1943 wurde er Oberbefehlshaber der 1. Gardearmee bei der 4. Ukrainischen Front. 1944 wurde er zum Generaloberst befördert. Es folgten Kämpfe in Galizien und zum Kriegsende im tschechoslowakischen Karpatenraum.