東京府出身。1929年（昭和4年）　東京帝国大学工学部船舶工学科を卒業。海軍造兵中尉任官、海軍航空本部の戦闘機担当官となる。局地戦闘機「雷電」の開発に関しては、海軍航空本部技術部に三菱重工業の堀越二郎を招き要請した。遣独潜水艦作戦（第四次遣独艦。1943年12月にシンガポール出航）によりドイツに渡り、ジェットエンジン・ロケットエンジン等の最新の軍事技術情報をドイツから入手する。伊号第二九潜水艦により、1944年（昭和19年）4月16日にロリアンを出航。7月14日にシンガポールに到着したのち、零式輸送機に乗り継ぎ、日本に帰国。ロケット戦闘機メッサーシュミット Me163及びジェット戦闘機メッサーシュミット Me262に関する資料を海軍航空本部に持ち帰った。それら資料は、のちに秋水・橘花の開発に活かされた。1959年7月8日に鎌倉市で没。
西南学院大学在学中の1971年に武田鉄矢・千葉和臣を誘い、海援隊を結成、1972年にデビューする。1982年にグループを解散後、『IT（イット）』『プレーン・グラス』などのアルバムをリリースした。『IT（イット）』では、海援隊時代の曲「涙がらがら」や武田がソロで歌った「声援」などをセルフカヴァーしている。1993年に海援隊を再結成する。また、現在は海援隊と並行してのソロ活動を、東京の「四谷コタン」を中心に展開している（イベント名：「点景」）。大学時代、高校の同級生であった武田と野田を誘い、ヤングラディーズ（後の海援隊）を結成する。アメリカンフォークを得意としていた。その後、海援隊はオリジナル曲を歌うことが中心となり、メンバーが激減、中牟田と武田のみとなるが、中牟田が千葉を誘い、海援隊は3人組としてデビューすることとなる。海援隊では大ヒット曲の「人として」（千葉和臣と共作）や「あんたが大将」などを作曲することとなる。2016年1月6日食道癌を発症し、入院している事が海援隊ホームページにて公表された。ホームページに掲載された武田のコメントによると、中牟田から報告があったのは昨年12月半ばで、1月に入院して治療にあたるという。武田は「数年前は私自身の病で中牟田を待たせたことがありますので、今度は私が待つ番だと前を向きました」と記すとともに、「しばらく中牟田のいない海援隊が続きますが、この事情と中牟田の思いを汲みおかれましてどうぞお待ち下さい」とファンに呼びかけている。同年7月11日、博多座公演の第二部海援隊トーク＆ライブで仕事復帰を果たす。
ニュージャージー州レイクウッド・タウンシップで生まれる。タフツ大学に通い、その頃に映画製作のキャリアが始まる。1977年公開の『アウトローブルース』で初めてフィーチャー映画でプロデューサーとしてクレジットされた。1994年には『フォレスト・ガンプ/一期一会』をプロデュースし、スティーヴ・スターキー、ウェンディ・フィネルマンと共に第67回アカデミー賞作品賞を受賞した。2005年からはニューヨーク・ジャイアンツの会長兼執行副社長となった。ティッシュが就任して以来、ジャイアンツは2007年度と2011年度のスーパーボウルで優勝を果たしている。2008年4月30日にはチームのメンバーと共にジョージ・W・ブッシュによってホワイトハウスに招かれ、優勝を称えられた。
幼少期から特異な音楽的才能を見せ、8歳の時に作曲した合唱曲などはすでにCD化されている（オランダ国内盤のみ。廃盤）。メンゲルベルクは美声に恵まれ、幼少期から父（ブランデンブルク門の彫刻を担当）の彫刻工房の職人たちをまとめて教会音楽を中心とした合唱指揮などを行っていた。また、ケルンでの学生時代は、ヴァイオリン・管楽器などオーケストラの楽器を広く演奏する腕前を持っていた。このため周りの学生からの信任も厚く、声楽家の友人の伴奏を頻繁に手伝うなど、音楽家として見識を非常に広げた。肩を壊してヴァイオリン演奏を医師に止められたため、以後ヴァイオリンを自ら演奏することはなかったが、奏法自体は熟知しており、こうしたことがオーケストラ・トレーニングにすべて役立った。1895年に24歳でアムステルダム・コンセルトヘボウ管弦楽団の首席指揮者として採用される。この際バッハの宗教曲を演奏する必要性を強く説き、特に『マタイ受難曲』の演奏に特別の意思を示した。このため、自ら合唱団を組織することを条件として提示し、コンセルトヘボウ管弦楽団の首席指揮者を引き受けている。後に、自らオーディションして組織した合唱団はトーンクンスト合唱団で、有名な1939年録音の『マタイ受難曲』などで実際に聴くことができる。その後、常任指揮者に就任した彼は、徹底した訓練で一流のアンサンブルに育て上げ、世界的な名声を得た。1922年から1930年の間は、自らオーディションして5つのオーケストラを統合再編したニューヨーク・フィルハーモニックの首席指揮者も兼任した。国際的で精力的な仕事をこなしていたが、自身の健康状態は若い頃から優れず、特に呼吸器系が弱かった。このため、しばしばスイスの山荘で余暇を過ごして体調管理に努めたが、体調不良による演奏会のキャンセルも多かった。国内での人気投票でウィルヘルミナ女王を抜いて1位になるなど、オーケストラの指揮者としては異例の人気振りだったが、こうしたことが裏目に出て、女王とは折り合いが悪かった。第二次世界大戦中、ドイツ軍がオランダを占領すると、その点をついたゲッベルスやザイス＝インクヴァルト（オランダ総督）に「真のオランダの象徴」として担がれ、指揮活動を継続した（イギリスに亡命した女王は「祖国の裏切り者」として喧伝された。また、メンゲルベルクはゲッベルスの招きでベルリン・フィルに客演している）。このことから、戦後は戦犯としてコンセルトヘボウを追われ、楽壇から追放された。その後はスイスのグラウビュンデン州の山荘に隠棲、その後減刑され、1952年度からの音楽活動再開が決まるが、その直前に死去した。晩年は不遇のうちに没したメンゲルベルクだが、オランダ人芸術家としては画家のレンブラントと共に、現在も高く評価されている。