뉴욕 필하모닉
1991년, 마주어는 주빈 메타의 후임으로 뉴욕 필하모닉(NYP)의 상임 지휘자 겸 음악 감독으로 취임했다. 그의 계약기간 동안, 당시 NYP의 상임 이사였던 데보라 보르다(Deborah Borda)와의 마찰이 있었다는 이야기가 나돌았는데 이 때문에 결국 그는 2002년 이후로 계약을 갱신하는데 실패했다. 찰리 로즈와의 텔레비전 인터뷰에서, 마주어는 그의 '자신의 의지'로 뉴욕필을 떠난 것은 아니라고 했다. 문제의 원인은 근본적으로는 미국과 독일에서의 지휘자의 역할에 대한 인식의 차이 때문이었다. 미국에서는 피고용인(지휘자)가 고용자에게 하나하나 충실히 "보고"하는 관계라면, 독일의 경우는 경험적으로 최선의 방법을 자유롭게 실행할 수 있는 문화가 조성되어 있기 때문이다. 마주어는 2002년 을 사임할 수 밖에 없었고, 이후 그를 위해 새롭게 만들어진 직함인 종신 음악 감독(Music Director Emeritus)에 임명되었다. 비록 그의 사임은 다소 정치색으로 얼룩져 있었지만, 마주어가 뉴욕필을 이끌면서 그의 나긋나긋한 선임자들과는 다르게 오케스트라의 연주 수준을 확연하게 상승시켰다는 것은 누구도 부인할 수 없는 사실이다.