Petrov-Vodkin ble født byen Khvalynsk (i dagens Saratov oblast), hvor faren var skomaker På 1890-tallet studerte han malerkunst og tegning i Samara, videre 1895-97 på sentralskolen for teknisk tegning i St. Petersburg. Senere flyttet han til Moskva, hvor han studerte hos Valentin Serov og særlig Konstantin Korovin på Moskvas skole i maling, bildehugging og arkitektur. År 1901 fortsatte han studiet i München. og 1904 fullførte han studiene i Moskva og reiste til Paris, for å gå i privatlære. Han la også ut på studiereiser til Italia og Nord-Afrika.