NBC交響楽団
しかしトスカニーニは、次第に自らの衰えを意識するようになる。記憶力の衰えにより(トスカニーニは視力に問題があり、暗譜での指揮を信条としていた)、リハーサル中に自らの勘違いから激怒してしまう、本番中に集中力が途切れ演奏が乱れる、などの事態が発生する。ただ、トスカニーニの引退を妨げていたものは、NBC響との強い結びつきだったのも確かである。仮に彼が指揮台を去ればNBC響はその存在意義を失い、解散させられるのは彼の目にも明らかだった可能性もある。
最終的にトスカニーニは、87歳を迎えた1954年3月25日付のRCA社会長サーノフ宛の手紙で引退を表明した。4月4日が最終のコンサートとなった。同夜は当初ブラームスの『ドイツ・レクイエム』の予定だったが、集中力を維持できないと感じたトスカニーニにより、ワーグナー作品のみのプログラムに差し替えられた。引退の事実の公表はそれまで差し控えられ、放送終了後にNBCのニュース速報が伝えた。
同夜のトスカニーニは感情の昂ぶりからか集中を欠いていたとも言われており、『タンホイザー』の「序曲とバッカナーレ」では指揮を中断してしまい演奏を混乱させた。その際、中継放送は「技術上の障害」としてブラームスの交響曲第1番の録音を流した。さらに、プログラム最終に『マイスタージンガー』前奏曲を奏する必要があるのを忘れて退場しようとしてしまい、楽団員に呼び止められたとする説もある。放送は午後7時45分、ナレーターの「我々はマエストロ・トスカニーニが再び登場してくれることを期待するものです」とのコメントで終了した。
トスカニーニは同年6月、『仮面舞踏会』『アイーダ』の録り直しのために計6時間NBC響の指揮を行い、それが生涯最後のタクトとなった。