Bygningen som ennå står i dag ble bygget i 1890-årene der det gamle Bolsjoj-teateret tidligere stod. Navnet på konservatoriet endret seg i takt med endringene av byens navn, først til og deretter . Gjennom tidene har konservatoriet uteksaminert studenter som Pjotr Tsjajkovskij, Sergej Prokofjev, Dmitrij Sjostakovitsj, Artur Kapp og Rudolf Tobias. Konservatoriet har i dag omtrent 1 400 studenter og 275 lærerere.