Glazounov a été directeur du conservatoire de Saint-Pétersbourg de 1905 à 1928, et a également contribué à la réorganisation de l'institut à différentes époques (Conservatoire de Petrograd, puis de Leningrad après la révolution bolchevique). Il a continué à diriger le Conservatoire jusqu'en 1930, bien qu’il ait quitté l'Union soviétique en 1928, et n’y revint pas. L'élève le plus illustre de l’institut sous son mandat au début des années soviétiques était Dmitri Chostakovitch.