马勒初次尝到作为作曲家的成功是在1895年12月13日，《第二交响曲》在柏林首演，马勒亲自指挥。他的助手布鲁诺·瓦尔特说，“马勒作为作曲家的名声可从那天算起。”同年，马勒的私生活受到了冲击：他的弟弟奥托自杀。在汉堡，马勒引进了许多新歌剧：威尔第的《法斯塔夫》、洪佩尔丁克的《汉泽尔与格蕾太尔》，以及斯美塔那的作品。然而他对贝多芬《第九交响曲》的改编却受到了广泛的批评，并因此被迫辞职。马勒的最终目标是进军维也纳。在一些有影响力的朋友的帮助下，他得以进入维也纳宫廷歌剧院，即后来的维也纳国立歌剧院。由于当时规定