El primer puesto de mando de Grechko durante la Gran Guerra Patria fue la 34.ª División de Caballería, que combatía en los alrededores de Kremenchuk (cerca de Kiev).