Kuindzji var født i Mariupol, men bodde i byen Taganrog i barndommen. Han vokste opp i en fattig familie, faren var en greskættet skomaker. Arkhip var seks år gammel da foreldrene døde, og fra da av måtte han selv skaffe seg et levebrød. Han arbeidet på en byggeplass hvor det ble reist en kirke, gjette husdyr og arbeidet i butikken til en maiskjøpmann.