Han etterfulgte Jules Massenet som professor i komposisjon ved konservatoriet i Paris i 1896 og var konservatoriets direktør fra 1905. Hans tid ved konservatoriet ble preget av konflikter med konservative krefter i undervisningen som Fauré forsøkte å gestalte på sin måte. Han ble tvunget til å avgå i 1920. Blant hans elever var Maurice Ravel og Nadia Boulanger.