Ipolítov-Ivánov estudió en su casa y fue un joven coreuta en la Catedral de San Isaac, donde también recibió instrucción musical, antes de ingresar al Conservatorio de San Petersburgo en 1875.