シュレージエンのブレスラウ（現在のポーランド領ヴロツワフ）でユダヤ系の家庭に生まれる。ベルリン大学で文学と哲学を学ぶ。マールブルク大学でコーエンやパウル・ナトルプに学ぶ。1899年に博士論文（デカルト論）をコーエンのもとに提出する。1903年から、ベルリン大学の私講師（Privatdozent)を勤めながら、哲学、科学、理論的思考へと考察を集中させていった。1906年に『認識問題』で教授資格申請。審査にはディルタイとアロイス・リールがあたった。1907年には『認識問題』第二巻におけるカント解釈によりベルリン大学にポストを得る。この時期、『実体概念と関数概念』（1910年）を執筆する。1919年に新設されたハンブルク大学の教授。当地にあった「ヴァールブルク文化学図書館」に衝撃を受ける（カッシーラーは「この文庫は危険です。わたしはここを避けるか、あるいは何年もここに閉じこもらねばならないでしょう」と述べたと報告されている）。1923年には当時クロイツリンゲンの診療所で精神治療を受けていたアビ・ヴァールブルク本人を訪ねる。ヴァールブルク図書館を利用しながら神話論やルネサンス期の研究に取り組み、『神話的思考における概念形式』（1922年）や『言語と神話』（1925年）を発表しつつ、主著『シンボル形式の哲学』（全三巻、1923, 1925, 1929）をまとめあげた。学生にレオ・シュトラウスがおり、博士論文の指導をする。他ハンス・ライヘンバッハも生徒の一人だった。1929年にハイデガーとのダヴォス討論を行なう。ナチス政権樹立（1933年）により、イギリスへ移住、オックスフォード大学講師（ - 1935年）となる。イギリス時代には、の収集した資料を基礎に設立されたヴァールブルク研究所（ハンブルクから1934年に移設。ウォーバーグ研究所）の初代所長フリッツ・ザクスルらと交流した。のちスウェーデンのヨーテボリ大学教授(〜1941年）となるが、ナチスの勢力が拡大するにつれてアメリカ合衆国へ移る。はじめハーヴァード大学に受け入れてもらう予定だったが、30年前のベルリン時代にハーヴァードからの招聘を断っていたため、断られる。イェール大学(〜1943年)で教えたのちニューヨークのコロンビア大学に移る。スウェーデンに帰化しており、ドイツ・ユダヤ系スウェーデン市民としてニューヨークに在住、心臓発作により急逝した。ニュージャージー州パラマスのシダーパーク墓地に埋葬されている。
1944年6月、フィンランドはソ連からの大規模な攻勢を受けていた。ドイツのラップランド軍司令であるディートルはフィンランド支援に動き、本国からの増援をとりつけたが飛行機での移動中に墜落死した。ドイツ外相のリッベントロップは援助と引き換えにフィンランドが公式に継戦する誓約を求め、ソ連は正式な降伏を求めた。リュティはソ連の要求を議会に知らせず、ドイツの要求の検討を行った。マンネルヘイムは議会の正式な承認でドイツと協定を結ぶことに懸念を示し、首相のエドウィン・リンコミエスはソ連が降伏を求めていることを公開しなければ議会はドイツの要求を承認しないと判断した。リュティは個人として約束し、その後のロシアとの単独講和の際は大統領を辞めることでドイツとの協定を反故にすることを法律学者に検討させて可能であるという判断を得た。リュティは議会の承認を得ずに協定へサインし、ドイツと共に戦うことを誓うリュティ＝リッベントロップ協定を結んだ。この協定でフィンランドはドイツから大量の支援物資を得た。マンネルヘイムはソ連の攻勢に対応し、侵攻を停止させた。その後主戦場はフィンランドから欧州へと向かい、7月にソ連から降伏を含まない和平の打診を得た。リュティ・リッベントロップ協定に背いて単独講和を行うため、リュティは辞任した。8月4日、議会の特別立法でマンネルヘイムは第6代フィンランド共和国大統領となった 。マンネルヘイムは国内的にも国際的にも、フィンランドを戦争から開放するために十分な威信を持つ唯一の人間であることが明らかであった。彼はフィンランド人の多くの信任を受け、また、戦争から平和へとフィンランドを導くことのできる事実上ただひとりの権威であった。ドイツとフィンランドの間の条約はリュティ個人の結んだものとして破棄した。フィンランドの立たされた危険な状況はマンネルヘイムのフィンランド大統領府前での就任演説にも反映された。議長、温かいお言葉感謝申し上げます。誉れ高い議員の皆さんに国難の時に国家の長たる職務の2度目の許しをいただいたことに、私にのしかかる責任を重く感じています。大きな課題は我々の未来を守るために打ち勝たなければならない困難です。今、真っ先に私の心にあるのはもう5年の間戦っているフィンランド軍のことです。議会、政府の支援と我々を支える人々の満場一致によって、我々は独立と国家の存続の維持に成功すると私は望み、そう信じております。継続戦争は厳しい条件で終結した。しかし、ソ連が国境を越えたほかの国に比べればはるかに厳しくないものであった。フィンランドは主権も、議会制民主主義も、経済の自由も維持した。カレリア全土とペッツァモを失い、数多くのカレリア難民はフィンランド国内に安住の地を求めた。賠償金として3億ドル相当の物資を支払うことになった。さらにフィンランドは12月までに動員を解除して常備軍のみに縮小すると同時に北部からドイツ軍を撤退させるためにラップランド戦争を戦った。ソ連優位の連合国管理委員会を受け入れながら戦後の復興を受け入れなければならなかった。この難しい時期を通してフィンランドを導けたのはマンネルヘイムただ1人であったことは広く認められている。大統領としての任期はマンネルヘイムにとっては難しいものだった。6年の任期があったが、すでに70代後半であり、強い要請を受けて不本意ながらその職に留まった。頻繁な病気、連合国管理委員会の要求、戦争責任裁判によって状況は悪くなった。彼は任期中の多くの期間、委員会が平和に対する罪によって自分を告訴するように要求することを恐れていた。しかし、これらの告訴は行われることはなかった。理由の1つとしてスターリンのマンネルヘイムへの感心と尊敬があるとされる。スターリンは1947年、モスクワのフィンランド代表団にフィン人は老元帥に多くの借りがあると語っている。いずれにせよ、彼の一意でフィンランドは占領されなかった。連合国管理委員会のいくつかの要求に対してマンネルヘイムは批判を持っていたにもかかわらず、マンネルヘイムは休戦義務を果たすために働いた。マンネルヘイムは戦後のフィンランドの復興における仕事の必要性を強く感じていた。マンネルヘイムは議会政治について学ばなければならなかった。彼は貴族政治観のために議会政治を完全には尊敬していなかった。また、時にはいやいやながらもフィンランド共産党初の大臣を任命しさえした。マンネルヘイムは1945年に健康問題を再発して仕事に支障を来たし、同年11月から1946年2月まで仕事から離れて病気休暇を取った。休養のため南フランスとポルトガルで過ごした。戦犯裁判の評決の発表の後、マンネルヘイムは大統領の辞職を決意した。休戦条約を結び、ラップランド戦争の趨勢が決まったことで自らに求められた役目を果たしたと考えた。1946年3月4日、マンネルヘイムは大統領を辞職した。1918年には敵であったフィンランドの共産党員でさえ、難しい時期に国家の結束を維持するためにはらわれた努力とその役割に感謝した。首相である保守派のユホ・クスティ・パーシキヴィが後任として第7代大統領となった。