さらに1898年9月24日、マーラーはウィーン・フィルハーモニー管弦楽団の常任指揮者にも就任する。1901年4月1日に辞任するまでの3年間、古典派音楽からマーラーと同時代の作品に至るまで、幅広いレパートリーを指揮した。ベートーヴェンの弦楽四重奏曲第11番（ヘ短調作品95）を弦楽合奏用に編曲して上演、賛否両論を巻き起こしたほか、交響曲第5番（1899年）や交響曲第9番（1900年）を改訂して上演し、非難を浴びた。また、1900年6月には同楽団を率いてパリ万国博覧会に参加している。