Andréi Yeriómenko nació en Márkovka, en aquel entonces ubicada en la gobernatura general zarista de Járkov, actual provincia de Lugansk, Ucrania en una familia de campesinos.