Han ble akseptert ved École normale supérieure i 1886 hvor han først studerte filosofi, men gikk over til historie hvor han tok sin grad i 1889 og tilbrakte to år i Roma. Her møtte han skribenten Malwida von Meysenbug – som hadde vært en venn av Nietzsche og av Wagner – og hans oppdagelse av italienske mesterverk var avgjørende for utviklingen av hans tanker. Da han vendte tilbake til Frankrike i 1895 mottok han sin doktorgrad på avhandlingen og for sin dissertasjon om . I de neste to tiårene underviste han ved ulike skoler i Paris før han ledet den nylig opprettede musikkskolen Ecole des Hautes Etudes Sociales fra 1902. I 1903 ble han utnevnt til det første professorat i musikkhistorie ved Sorbonne. I 1905 ble han tildelt Prix Femina.