Fra 1875 til 1882 studerte Ippolitov-Ivanov ved musikkhøyskolen i Sankt Petersburg under ledelse av Nikolaj Rimskij-Korsakov. Deretter arbeidet han i syv år som orkesterdirigent og leder for musikkhøyskolen i Tbilisi i Georgia. Denne regionens musikk kom til å ha en stor innflytelse på hans egen komponering, noe man kan merke blant annet i hans mest berømte verk, , 1894-1896.