Etter opphold som sjefdirigent ved Boston Symphony Orchestra) og som direktør ved Ungarns statsopera etterfulgte han i 1895 Carl Reinecke som kapellmester i Gewandhausorkesteret i Leipzig. I denne stillingen ble han til sin død. Samtidig ble han i 1895 også sjefdirigent ved Berlinfilharmonien. Under hans opphold i Berlin gjorde orkesteret sitt første lydopptak av en fullstendig symfoni, den femte symfoni av Beethoven.