4年他就已经在汉堡歌剧院当古斯塔夫·马勒的助手。马勒真是他艺术上的好榜样，瓦尔特自荐要成为马勒的学生并且要跟随马勒去维也纳上演歌剧，但马勒一开始的时候拒绝了。到了汉堡首个乐季和布雷斯劳 (1896/97) (1897/98)、里加(1898-1900)和柏林(1900/01)乐季结束后，他作为乐队长于1901年跟随马勒到了维也纳。接着他就开始了国际演出生涯。他作为客席指挥在布拉格，伦敦和罗马活动。在马勒死后，他为马勒两部着名遗作的首演指挥：大地之歌（1911年慕尼黑）和第九交响曲（1912年维也纳）。