Gerasimov kom til verden i Kozlov (nå Misjurinsk) i Tambov-guvernementet. Han studerte ved Moskvas skole for maling, billedhugging og arkitektur fra 1903 til 1915. I disse årene talte han for en kunst som la vekt på realistiske fremstillinger og avviste avant-garde-kunsten.