1895年3月4日、声楽の入らない第1楽章から第3楽章までをベルリン・フィルハーモニー管弦楽団によって初演。演奏会全体の指揮者はリヒャルト・シュトラウスであるが、この曲については「作曲者指揮による」との断り書きがあり、マーラーが指揮したものと見られる。その夏にはマーラーはシュタインバッハにおいて交響曲第3番の作曲に取りかかった。全曲初演は1895年12月13日、同じくマーラー指揮、ベルリン・フィルハーモニー管弦楽団による。マーラー35歳のときである。膨大な管弦楽に独唱者、合唱隊をくわえるため多額の資金を必要としたので、マーラーは私財を投じて借金をし、チケットを友人や音楽学校の生徒に売りつけるなどかなりの無理をしたが、その甲斐あって初演は大成功となった。第1交響曲が初演された1896年3月16日の演奏会では、第1交響曲の全楽章に先立ち、「第2番」の第1楽章に再び「葬礼」の標題を付けて演奏した。「葬礼」の標題を使用したのは、これが最後と見られる。1895年初演のときのブルーノ・ワルターの感想「・・・私の回想の中で最も素晴らしい物の一つです。私は終楽章の偉大なるラッパで世の終わりを告げた後に、復活の神秘的な鳥の歌を聴いた時の息のつけぬような緊張、そこへ続く合唱の『汝よみがえれ。』に導かれる部分での深い感動は、今でも耳にはっきり残る。・・・作品の大きさ、独創さ、マーラーの個性の強さなどの印象が余りにも深く偉大であったので、この日から、彼は、作曲者として最大の地位をもって迎えられたのです。」
1893年1月にマーラーは「交響詩」を改訂（＝第1交響曲第2稿）。7月にザルツブルクの近郊、アッター湖畔にあるシュタインバッハにおいて、「第2番」の第2楽章から第4楽章までを完成させた。このとき、『子供の不思議な角笛』の新たな1曲「魚に説教する聖アントニウス」も第3楽章と同じ材料に基づいて作曲されている。マーラーはこの年から夏休みをシュタインバッハで作曲に専念して過ごすようになり、また、バート・イシュルに滞在していたブラームスを訪問して知己を求めている。同年10月、マーラーは改訂した「交響詩」に『巨人』の標題を付してハンブルクで演奏、翌1894年7月ヴァイマルで再演するが、いずれも成功しなかった。1894年2月12日、ビューローがカイロで客死し、3月29日ハンブルクのミヒャエリス教会で葬儀が行われた。この葬儀に出席したマーラーは、オルガンと合唱によるクロプシュトックの「復活」を聴き、交響曲の終楽章の歌詞に使用することを思いつく。この時の感動をマーラーは「あたかも稲妻のようにわたくしの身体を貫き、曲の全体の形がわたくしの前に、はっきりと明らかな姿で現れました。創作する者はかくのごとき『稲妻』を待つこと。まさしく『聖なる受胎』を待つことなのです。」（友人のザイドルに充てた手紙から）と書いている。まず、テキストの最初の二連を使い、各連末尾の「ハレルヤ」は削除、三連以降は自作の歌詞を加筆した。4月に「葬礼」を小節数短縮、編成拡大などの改訂を施して第1楽章とし、6月には総譜の下書きが完成する。最終稿ができあがったのは、12月18日ハンブルクにおいてであった。
司馬倫の死後、斉王司馬冏が朝権を掌握して輔政の任に就いたが、彼は奢侈な生活を送って邸宅や館舎を大いに建築し、民衆を大いに失望させた。302年11月、嵆紹は腐敗する朝政を憂え、上書して「臣が聞くところによりますと、前の轍を改める者は車を傾けず、往時の弊害を革める者は政を間違えないといいます。太一は元首を統べ、百司は多くの士を使役しました。故に周文（周の文王）は上を興し、成康（周の成王・康王）は下を穆した（穏やかに静めた）のです。『存して亡ぶるを忘れず（存続している時にも常に亡びる事を忘れない）』とは『易』の善義であります。願くば、陛下が金墉を忘れず、大司馬が潁上を忘れず、大将軍が黄橋を忘れる事のありませんよう（司馬倫の時代、恵帝は金墉城に幽閉され、大司馬司馬冏は潁上で敗れ、大将軍司馬穎は黄橋で敗れた）。そうすれば、禍乱の萌が兆す事は無いでしょう」と述べ、司馬倫と同じ過ちを繰り返さないよう戒めた。次いで司馬冏にも書を送って「夏禹（夏王朝の始祖である禹）は卑室（質素な宮殿）である事により称賛を受け、唐虞（堯と舜）は茅茨（粗末な邸宅）である事により徳を明らかにしました。いくら家を大きくして富ませても、無益でありむしろ危亡を招きます。第舎を広くする為に太楽を毀敗し、力を尽くして三王（斉王司馬冏・成都王司馬穎・河間王司馬顒）の為に邸宅を建てておりますが、はたして今日先を急いでやる事でしょうか！今、大事は定まり始めたばかりであり、万民は粛敬としながら、潤いがもたらされるを待っているのです。起造の煩いを省き、謙損の理について深く考えるべきです。復主（恵帝の復位）の功績を棄てるべきではありませんが、矢石の殆（戦乱の危機）もまた忘れてはなりません」と諫めた。司馬冏はこの進言に謙虚な態度で報いたが、結局振る舞いを改める事は無かった。302年12月、嵆紹は朝廷での職務を免じられると、司馬冏により大司馬府に招き入れられ（司馬冏は大司馬の地位にあった）、左司馬に任じられた。だが、その10日後には長沙王司馬乂が政変を起こし、交戦の末に司馬冏を捕らえて誅殺した。政変が起こった時、異変を察知した嵆紹は逃げまどいながら宮殿へ向かった。東閤の下にいた弩兵は嵆紹を発見すると彼へ向けて射掛けたが、殿中の将兵である蕭隆は嵆紹の立派な姿を見てただものではないと考え、彼の前に進み出て射撃を止めさせたので、嵆紹は禍を免れる事が出来た。その後、滎陽にある旧宅へと帰還した。