Markovnikov studerte først økonomi og ble senere, etter endt utdanning, assistent til Aleksandr Butlerov i Kazan og St. Petersburg. Etter å avlagt akademisk eksamen i 1860 dro han til Tyskland, hvor han studerte under Richard Erlenmeyer og Hermann Kolbe i to år. Han returnerte til Russland, tok imot sin doktorgrad i 1869 og etterfulgte Butlerovs professorat ved Statsuniversitetet i Kazan. Etter en konflikt med dette universitetet ble han utnevnt til professor ved Universitetet i Odessa i 1871, og bare to år senere ved Statsuniversitetet i Moskva hvor han bodde resten av sin karriere.