Grechko nació en un pequeño pueblo cercano a Rostov del Don, en el seno de una familia de campesinos ucranianos.