ハインリヒ・ヒムラー
さらに1937年11月13日には「親衛隊及び警察高級指導者」(Höherer SS und Polizeiführer、略称HSSPF)の職を新設してドイツの各地域に配置した。この職はヒムラーの親衛隊全国指導者と全ドイツ警察長官の地位をその地域において代行する者であった。
1939年9月27日にはハイドリヒの傘下にあったSDと保安警察を統合させて、国家保安本部 (RSHA) を親衛隊内に設置させた。
「長いナイフの夜」の後、すべての強制収容所は親衛隊の管轄となり、ヒムラーは、ダッハウ強制収容所の所長だったテオドール・アイケを全強制収容所監督官、親衛隊髑髏部隊(強制収容所看守部隊)総監に任命した。
突撃隊やゲーリングが創設した強制収容所はほとんどが閉鎖されていった。代わりに1936年9月にザクセンハウゼン強制収容所、1937年7月末にブーヘンヴァルト強制収容所、1938年8月にマウトハウゼン強制収容所、1938年11月にフロッセンビュルク強制収容所、1939年5月にラーフェンスブリュック強制収容所が創設された。
ヒムラーが全ドイツ警察長官になると保護拘禁の範囲が拡大された。もともとは政治犯のみが保護拘禁の対象であったが、「常習的犯罪者」と「反社会分子」も保護拘禁されて強制収容所へ入れられるようになった。なお、戦前期には人種だけを理由として強制収容所に入れられるケースは基本的にはなかった。ユダヤ人がユダヤ人であるというだけで強制収容所に入れられるようになったのは戦中のことである。ただし例外として1938年11月の「水晶の夜」事件で逮捕されたユダヤ人3万人は強制収容所に移送されているが、ほとんどは数週間で釈放されている。
ヒトラー内閣発足以降、親衛隊はノルトラント出版社、ドイツ土石製造有限会社 (DEST)、ドイツ装備製造有限会社 (DAW)など、様々な企業経営も行っていた。海軍の主計将校であったオスヴァルト・ポールを親衛隊本部の経済部門の部長に任じ、彼にこれらの企業の経営を任せた。親衛隊企業の労働力の多くは強制収容所の囚人をもって充てられ、アイケの強制収容所監視官の地位もポールの下に置かれていた。ヒムラーは親衛隊企業の中では磁器製造会社の経営に強く関心を示していた。同会社は彼が経営にちょくちょく口を出していたためか常に赤字で、会計士からも常に再編や廃業の勧告を受けていたが最後まで聞き入れず、経営を続けた。
こうした警察権力掌握の過程の中で、親衛隊は国内外の様々な政治事件に暗躍した。戦争計画に批判的であった陸軍元帥ヴェルナー・フォン・ブロンベルク国防大臣と陸軍上級大将ヴェルナー・フォン・フリッチュ陸軍総司令官をスキャンダルで失脚させたり、海外でもソヴィエト連邦陸軍元帥ミハイル・トゥハチェフスキーをはじめとする赤軍首脳部が粛清されるよう謀略工作を行った。またオーストリア首相エンゲルベルト・ドルフースの暗殺にも関与し、オーストリア国家社会主義ドイツ労働者党-ヒトラー運動によるクーデター計画を支援したが、これは失敗に終わった。
1933年3月17日にヒムラーはヒトラーをボディーガードする警護部隊の創設を命じられ、親衛隊の精鋭117名を選抜して「SS司令部衛兵班ベルリン」(SS-Stabswache Berlin) を創設させた。指揮官にはヨーゼフ・ディートリヒを任じた。この部隊は後に「ライプシュタンダルテ・SS・アドルフ・ヒトラー」(Leibstandarte SS Adolf Hitler、略号:LAH、LSSAH)の名を与えられ、戦時中には武装親衛隊 (Waffen-SS) の最精鋭師団となる。しかしディートリヒはこの部隊をヒトラーだけからの責任を負い、ヒムラーから切り離した存在にしたがっており、そのため発足時から部隊の指揮権をめぐってヒムラーとディートリヒの間で争いがあった。
これに触発されたヒムラーは、SSの軍隊を欲しがるようになり、司令部衛兵班創設と同じ時期に自動車化された機動力を持ち、警察より強力な火力を備えた「政治予備隊」(Politische Bereitschaft) を創設させ、いくつかの親衛隊上級地区に配置した。アドルフ・ヒトラーも軍の枠組みにとらわれずに自由に動かせる「私軍」をほしがっていた。ナチ党の私兵部隊の突撃隊には反ヒトラー派も多く、ヒトラーの「私軍」になりうる余地はなかった。1934年6月末、国軍 (Reichswehr) と争っていた突撃隊幹部は長いナイフの夜事件において粛清された。突撃隊の粛清にあたったのはヒムラーら親衛隊であり、この件で親衛隊は国軍の軍部から高い評価を得ることとなった。ヒトラーは親衛隊の中に軍隊を置くことを模索するようになった。国防相ヴェルナー・フォン・ブロンベルクは親衛隊が三連隊の軍隊を保有することを承認した。これを承けてヒトラーは、1934年9月24日に三軍司令官に対して、国軍をドイツ唯一の国防組織と認めつつ、武装した親衛隊部隊を三連隊と一通信隊を置くことを通達した。この通達に基づき設置されたのが親衛隊特務部隊であった。特務部隊は戦時には陸軍の司令権限を認めつつ、平時にはヒムラーが指揮を執るとされた。特務部隊の扱いは軍隊と同等であり、特務部隊の隊員は給与支給帳 (Soldbuch) と軍歴手帳 (Wehrpaß) の所持を認められて軍人扱いを受けた。
こうして政治予備隊が1934年9月24日に親衛隊特務部隊 (SS-VT) に再編されて軍隊化される運びとなった。
特務部隊の編成や訓練は国軍(1935年以降国防軍 (Wehrmacht) と改称)の協力を得て進められた。1934年10月にはバイエルン州バート・テルツに親衛隊の士官学校が創設され、さらに翌年にはブラウンシュヴァイクにも親衛隊士官学校が開設された。特務部隊の軍事教練にはパウル・ハウサー(1932年まで国軍で中将をしていた人物で、1934年から親衛隊に招かれていた)が大きな役割を果たし、ヒムラーの「政治的兵士」たちを実戦に出せるレベルまで叩き上げた。
1936年10月1日、ヒムラーは親衛隊特務部隊の管理のため、パウル・ハウサーを長とする親衛隊特務部隊総監部を創設させた。
1939年8月、ヒトラーからポーランド侵攻の口実を作るよう命じられたヒムラーは、ハイドリヒに計画を策定させた。こうして1939年8月31日にSDにより実行に移されることになるのがグライヴィッツ事件であった。この作戦は「ヒムラー作戦」と命名されていた。SD工作員アルフレート・ナウヨックスがポーランド軍人に成りすましてポーランドのグライヴィッツ放送局を占拠し、反独演説を行った。この事件を口実に、ヒトラーは「いまやドイツとポーランドは戦争状態に入った」としてポーランドとの戦争を国会において宣言したのであった。
しかし大戦前期にはヒムラーがヒトラーからの信用を損なう事件もいくつか存在した。1939年11月8日、ヒトラーはビュルガーブロイケラーでミュンヘン一揆16周年記念演説を行ったが、この際にヒトラーが退席した後、時限爆弾の爆発で7人が死亡、63人が負傷する事件が発生。11月8日夜にスイスへ不法越境しようとしたゲオルク・エルザーが容疑者として浮上した。ヒトラーはエルザーの背後にイギリスがいると睨み、ヒムラーは背後関係の捜査を命じた。彼はヒトラーの期待に応えるべく、自らがエルザーのところへ赴いて直々にエルザーの拷問を行っている。エルザーは爆弾犯が自分であることは認めたが、単独犯であると主張してイギリスの陰謀は否定した。ヒムラーはイギリスの陰謀立証に失敗し、ヒトラーから叱責を受けることとなった。
また、ヒムラーやSDのハイドリヒは、ルーマニアの「鉄衛団」を支持していたが、「鉄衛団」は1941年1月に統治者イオン・アントネスクに対して反乱を起こす。ヒトラーや外相ヨアヒム・フォン・リッベントロップはアントネスクを支持したが、SDはなおも「鉄衛団」を擁護し、ホリア・シマ以下その幹部を救出している。この一件はヒトラーの怒りに触れ、現地のSD将校は処分された
。リッベントロップはこれをSSの勢力拡大を止める好機と見て1941年8月9日にヒムラーに協定を結ばせ、国家保安本部や警察随行官の通信文を大使や公使に目を通すことを認めさせ、SDの干渉に歯止めをかけようとした。さらにリッベントロップはSSとかつて敵対したSAの幹部を公使に続々と任命するようになった。しかしながら戦争が進むにつれて外務省の役割は減っており、リッベントロップがヒムラーやSSの躍進を止めるには至らなかった。
1942年6月4日、国家保安本部長官兼ベーメン・メーレン保護領副総督を務めていたハイドリヒは、イギリスが送りこんできたチェコ人暗殺部隊に暗殺された。しばらくはヒムラーが国家保安本部長官職を兼務し、国家保安本部I局(人事局)局長ブルーノ・シュトレッケンバッハ親衛隊少将を長官代理に任命して国家保安本部長官の実務を担わせていたが、1943年1月からはヒトラーの同意も得て親衛隊大将エルンスト・カルテンブルンナーを後任に任じた。1943年8月20日、ヒムラーはフリックに代わって内相に就任、名実ともにドイツ警察の支配者となった。
1939年5月、ヒトラーは2万人の兵員限定をつけながらも親衛隊特務部隊の師団編成を認めた。ヒムラーは師団創設のため砲兵連隊の設立を急いだが、1939年9月のポーランド侵攻までに間に合わず、親衛隊特務部隊はこの戦争を連隊編成で参加した。ポーランド戦後に改めてヒトラーから師団昇格を認められた。1940年4月22日の親衛隊作戦本部の司令により親衛隊特務部隊は武装親衛隊 (Waffen-SS) と名を変えた。武装親衛隊は急速に拡張され、大戦を通じて38個師団90万の兵力を数えるまでに成長した。国防軍に比べると損害率や戦死者・負傷者が多かったが、ヒムラーはこの理由について「国防軍が困難な任務を親衛隊に与えるため」と説明していた。
武装親衛隊の兵員募集は親衛隊本部の長官である親衛隊大将ゴットロープ・ベルガーが主導的役割を果たした。ベルガーは国防軍と折り合いをつけながら兵員確保に励んだ。また国防軍の徴兵対象にないヒトラー・ユーゲントなどの若年層やドイツ系外国人なども盛んに集めた。やがて非ドイツ系の外国人も受け入れも開始した。ソ連との戦いを「反共十字軍」になぞらえて武装SSに勧誘した。ヒムラーは非ドイツ系外国人、特に東方諸民族の受け入れにはアレルギーがあったがベルガーに説得され、戦争の拡大とともに外国人の受け入れもやむなしとなった。武装親衛隊の中にはインド人で構成された部隊やボスニアのイスラム教徒を中心に構成された師団まで存在した(第13SS武装山岳師団)。
開戦前から戦争初期にかけてヒムラー以下親衛隊はユダヤ人の国外追放を行っていた。1938年にオーストリアの「ユダヤ人移民局」の局長になったSDユダヤ人課のアドルフ・アイヒマンが注目され、1939年1月にはベルリン内務省内に「ユダヤ人移住中央本部」が設置されてアイヒマン方式が全国に拡大された。1939年10月7日にはヒムラーはドイツ民族性強化国家委員 (Reichskommissar für die Festigung des deutschen Volkstums) に任命された。この権限に基づき、彼は親衛隊の本部の一つとして「ドイツ民族性強化国家委員本部」(RKFDV) を設置し、親衛隊大将ウルリヒ・グライフェルトを本部長に任じた。アーリア人の支配民族思想に基づいてヨーロッパ・ユダヤ人の東方への植民・強制移住政策を推し進めた。
1939年9月のポーランド侵攻後、国家保安本部は占領下ポーランドやソ連占領地域にアインザッツグルッペン(特別行動部隊)を派遣してユダヤ人を含む反体制ポーランド住民を銃殺した。しかしながらこの時期に親衛隊がユダヤ人の絶滅を計画していたわけではないと見られている。ヒムラーも1940年5月に「ユダヤ人根絶のボルシェヴィキ的方法は信念として非ゲルマン的であるし、不可能である」と述べている。ユダヤ人絶滅政策(ホロコースト)の決定はヒムラーではなくアドルフ・ヒトラーによるものと考えられている。ヒトラーがホロコーストを決意したのは1941年夏であったと言われる。しかしヒトラーの命令を受けて実際にホロコーストを組織したのはヒムラーと親衛隊であった。
1941年6月にバルバロッサ作戦(独ソ戦)が発動された後、国家保安本部はアインザッツグルッペンをソビエトロシアに進撃する国防軍に追随させ、占領地のユダヤ系住民を大量虐殺した。この独ソ戦下のアインザッツグルッペンの活動はユダヤ人の絶滅を意図して行ったホロコーストの一部とみなされている。1941年8月、ヒムラーは、オーバーシュレージエン州にあるアウシュヴィッツ強制収容所所長ルドルフ・フェルディナント・ヘスをベルリンに呼び出し、ヨーロッパ中のユダヤ人を絶滅させることを告げ、アウシュヴィッツを絶滅収容所に改築することを命じた。これを承けてヘスはアウシュヴィッツにガス室を設置させた。さらにこの後、ポーランドにユダヤ人の殺戮だけを目的としたベウジェツ強制収容所、ソビボル強制収容所、トレブリンカ強制収容所の三大絶滅収容所が建設された。ユダヤ人はヨーロッパ各地からアウシュヴィッツをはじめとするポーランド東部の絶滅収容所に集められ、ガス室等で大量虐殺されるようになった。当時ゲシュタポのユダヤ人課課長となっていたアイヒマンがユダヤ人の列車輸送の手配および直接のユダヤ人狩り立てに深く関与している。
正式にユダヤ人絶滅が国家政策として定められたのは1942年1月20日、国家保安本部長官ハイドリヒがベルリンのヴァンゼー湖畔の高級住宅地にある邸宅で関係省庁の次官級を集めて行ったヴァンゼー会議であるとされる。この会議でユダヤ人問題の最終的解決について各官庁の分担範囲を決定したといわれる(一方、アインザッツグルッペンや絶滅収容所でのガス殺は1941年にはすでに開始されていることから、この会議はゲーリングからユダヤ人問題の最終的解決の委任を受けていたハイドリヒがヒムラーのユダヤ人問題への口出しをけん制するために開いただけの会議であるなどという説もある。ちなみに会議の出席者アイヒマンもこの会議開催にハイドリヒが自分の権限を誇示するための意味があったことを主張している。
一般的にヒムラーや親衛隊は無差別にユダヤ人を虐殺していたというイメージが付きまとうが、実際のところはそうではない。親衛隊経済管理本部長官であり、強制収容所運営の責任者であるオズヴァルト・ポールは一貫して強制収容所に移送したユダヤ人の軍需産業への奴隷労働力としての使用を目指していた。労働できる者は絶滅政策の事実上の対象外として、過酷な強制労働に従事させられた。アウシュヴィッツ所長ルドルフ・ヘスもその回顧録に「アウシュヴィッツへ送られてくるユダヤ人は本来すべて抹殺されるはずであったが、ドイツ・ユダヤ人が最初に送られてきた頃にはすでに労働可能な者を選別して収容所の軍需目的に使用するようにという命令が出されていた」と書いている。総力戦体制が強まる中、強制収容所の奴隷労働力はナチスにとってますます重要となっていた。ヒムラーは強制収容所の囚人の死亡率を下げることを一貫して命じ続け、親衛隊経済管理本部もそれに努力していた。
一方、「労働不能」とされたユダヤ人は、ナチスにとって全く役に立たないばかりか、既に悪かったドイツの食糧事情をさらに悪化させる厄介な存在であった。そのため即時に絶滅対象とされた。戦時中に行われたユダヤ人絶滅政策とは基本的に「労働不能」と認定されたユダヤ人の絶滅政策であった。ヒムラーやポールの命令を受けてアウシュヴィッツやマイダネク強制収容所でも「労働不能者」(=ガス室送り)と強制労働させる者の選別が行われていた。この選別にあたっては親衛隊軍医が大きな権限を持ち、ヨーゼフ・メンゲレはその典型として悪名高い。
また、駐日ドイツ大使館付警察武官として東京に赴任したヨーゼフ・マイジンガー親衛隊大佐は、1942年6月にヒムラーの命を帯びて上海に赴いた。マイジンガー大佐は日本に対し、上海におけるユダヤ難民の「処理」を迫り、以下の3案を提示した。「黄浦江にある廃船にユダヤ人を詰め込み、東シナ海に流した上、撃沈する」、「ユダヤ人を岩塩鉱で強制労働に従事させる」、「長江河口に収容所を建設し、ユダヤ人を収容して生体実験の材料とする」。しかし日本政府は、悪質なうえに人道にもとるドイツ側の提案を完全に拒絶した。
ヒムラーはヒトラーのユダヤ人絶滅指令について、ふつうでは耐え難い命令であった、と述べているが、あくまでこれを完遂するつもりであった。したがって労働に従事させる者もいずれは殺害するつもりであった。1942年秋にはヒムラーが法相オットー・ゲオルク・ティーラックとの会談で「労働を介した絶滅」という言葉を口にしたことはそれを端的に表していると言えよう。
ドイツの戦況悪化とともに国防軍不信に陥ったヒトラーは、親衛隊に信頼を寄せるようになっていった。1944年2月14日には国防軍情報部(アプヴェーア)部長ヴィルヘルム・カナリス海軍大将が失脚。ヒトラーはアプヴェーアの機能を国家保安本部第6局(国外諜報 (Ausland-SD) 局長ヴァルター・シェレンベルク)の下に吸収させ、同局の軍事情報部とすることを認めた。
1944年7月20日午後0時40分過ぎ、東プロイセン・ラステンブルクにあった総統大本営「ヴォルフスシャンツェ」の会議室において、ヒトラーが将校たちと会議中にクラウス・フォン・シュタウフェンベルク参謀大佐(国内予備軍参謀長)が仕掛けた時限爆弾が爆発した。将校や速記者に死亡者・負傷者が出たが、ヒトラーは軽傷を負うにとどまった(7月20日事件)。
この時ヒムラーは25キロメートル離れたマウルゼー湖畔のSS本部にいたが、午後1時頃に事件を知るとただちにラステンブルクの総統大本営へ急行し、わずか30分で到着した。
ヒムラーは総統大本営に到着後、SS隊員とともに捜査を開始した。会議室から一人姿を消したシュタウフェンベルク大佐が犯人であると確信し、ベルリンにいたフンベルト・アーハマー=ピフラーダーSS上級大佐にシュタウフェンベルクの逮捕を命令した(しかし、ベンドラー街へ逮捕に向かったピフラーダーの方が、逆にシュタウフェンベルクらによって身柄を確保されてしまっている)。ヒトラーはシュタウフェンベルクの上官である国内予備軍司令官フリードリヒ・フロム上級大将も何らかの形で謀反に関わっていると考え、ヒムラーを新たな国内予備軍司令官に任命し、ベルリンへ行くよう命じた。予備軍とはいえ、ヒムラーは念願の軍司令官の地位を手に入れたことになる。午後5時頃にヒトラーと別れる際に「総統、後のことは私にお任せください」と述べている。
ヒムラーがベルリンに到着した7月21日明け方にはすでにシュタウフェンベルク大佐ら首謀者はベンドラー・ブロック(国防省)においてフロムの命令で銃殺されており、その遺体は彼の指示で勲章や階級章や軍服などを身に着けたまま軍人として埋葬されていた。ヒムラーはただちに武装SSを動員してベンドラー街を占拠、シュタウフェンベルク大佐らの遺体を掘り起こさせて勲章などを剥奪すると、火葬のうえ遺灰は野原にばら撒かせた。
ヒムラーは国家保安本部長官エルンスト・カルテンブルンナーに大々的な捜査・逮捕を命じた。彼の指揮の下に捜査が進められ、最終的に5,000人程が処刑され、数千人が強制収容所へ送られた。「長いナイフの夜」事件以来の大規模な政治犯の逮捕劇となった。
ヒムラーは一連の謀反の最大の鎮圧者となったが、実際は事前に暗殺計画を把握していながら、事件の発生を黙認した可能性も指摘されている。事件直前の7月17日、ゲシュタポはヒトラー暗殺計画の可能性があり、その容疑者としてカール・ゲルデラーとルートヴィヒ・ベック上級大将の逮捕状を発給するようヒムラーに求めているが、彼はなぜか拒否している。戦後にSDのある将校は「ヒムラーは表向き引き延ばし戦術をとっていた」と証言している。彼が一旦実行に移させてから一網打尽にしたほうがよいと判断したのか、それともヒトラー暗殺を期待していたのかは不明だが、いずれにせよこの暗殺計画は失敗に終わり、その後のヒムラーはいつも通り反逆者の逮捕・処刑の実行者となった。
国防軍の将校たちが暗殺事件に関与していたことは軍の地位低下につながった。それは親衛隊が国防軍に対して絶対的な優位を確立したことを意味した。同じ日にヒトラーがヒムラーを国内予備軍司令官に任じたことも、このことのだめ押しとなった。予備軍の実務は親衛隊大将ハンス・ユットナーが代行した。また陸軍兵器局が中心に開発してきたV2ロケットの生産・運用も陸軍から親衛隊経済管理本部の手に移っている。
ヒムラー自身は、自分が実戦にたずさわった経験がなく、その点でまともな軍歴を持っていないことに劣等感を抱いていた。そこでヒムラーは自分が軍司令官として実戦を指揮して赫々たる戦果を挙げることを熱望するにいたった。ヒムラーはヒトラーにこうした希望を述べ、ヒトラーの側近であったマルティン・ボルマンもこれを支持したため、1944年12月2日にヒムラーはオーバーライン軍集団司令官に就任し、西部戦線で指揮を執ることとなった。ヒムラーのオーバーライン軍集団はシュトラースブルクまで数キロまで迫ったが、結局アメリカ軍の反撃にあってライン川の向こうへ撃退された。
しかしヒトラーはオーバーライン軍集団でのヒムラーの指揮を評価し、1945年1月23日にヒムラーを東部戦線のヴァイクセル軍集団司令官に任じた。参謀総長ハインツ・グデーリアン上級大将はこの人事に反対したが、ヒトラーは強行した。ヒムラーは今度こそ戦勝報告をヒトラーにもたらそうと張り切り、予備軍や武装親衛隊の残存兵力をかき集め、また、フェリックス・シュタイナーをはじめとする有能な武装親衛隊将校を招集した。ドイツ本土に迫るソ連軍を迎え撃つが、すでにドイツ軍は消耗しきっており、しかも部隊指揮経験を持たないヒムラーはまともな作戦指揮ができなかったため、ソ連軍にオーデル川を突破された。グデーリアンはヒムラー降ろしを急ぎ、結局、最後にはヒトラーも司令官の首を挿げ替えることに同意し、1945年3月20日、同軍集団の司令官職は陸軍大将ゴットハルト・ハインリツィに替えられた。この件でヒムラーの権威は大きく傷ついた。
ボルマンがヒムラーの司令官就任を支持したのは、ヒムラーが軍事的素養を持たず軍司令官としては失敗することを見越していたのであり、これを利用してヒムラーの権威を失墜させようとしていたのであった。さらにボルマンは、ヒムラーがヒトラーの至近にいたのでは自分がヒトラーの耳を独占することができないため、ヒムラーを戦線に行かせることによってヒトラーから遠ざけることをたくらんだのである。案の定、ヒムラーは軍司令官としては馬脚を現し、ボルマンはヒトラーに対してヒムラーの無能ぶりを吹き込むことに成功した。
大戦末期の1945年春、ヒムラーはドイツ勝利の確信を失っていた。これは専属マッサージ師フェリックス・ケルステンやSD第VI局(対外諜報)局長ヴァルター・シェレンベルクらとの会話から確認できる。ヒトラー政権が存続するためには、ソ連を除いたアメリカとイギリスとの講和が必要であると認識していた。
シェレンベルクの斡旋で1945年2月19日、訪独したスウェーデン赤十字社のフォルケ・ベルナドッテ伯爵とヒムラーは、入院していたホーエンリューヒェン療養所において初めて会見した。ベルナドッテは米英との和平のためには強制収容所の囚人の解放がよいと薦め、まずスカンディナヴィア系の強制収容所抑留者をスウェーデンに引き渡してほしいと求めた。しかしこの時ヒムラーは「もしその要求に応じたら、スウェーデンの新聞はでかでかと書くでしょうね。"戦犯ヒムラー、最後の土壇場で責任逃れ。今から免罪対策"とね。」と述べて拒否した。しかしその後さらに戦況が悪化し、ヒムラーはついにアメリカとイギリスに対しては降伏しても構わないという心境に至り、米英軍とドイツ軍の残存兵力でもって協力してソ連と戦うことを望んだ。4月2日にヒムラーは再度ベルナドッテと面会した。ヒムラーは西部戦線における条件付き降伏を米英に提案してくれないかと求めた。ベルナドッテは「ヒムラーがヒトラーの後継者を名乗ること。ナチスを解体させて党員を配置換えすること。スカンディナヴィア系の強制収容所抑留者を釈放すること」などを条件として求め、ヒムラーはこれに応じた。その後もヒムラーとベルナドッテは4月20日と4月24日に面会して米英に対しての降伏に向けた調整を続けた。
1945年4月20日、最後の総統誕生日にヒムラーはベルリンの総統地下壕に入り、ヒトラーと面会した。しかし憔悴したヒトラーにはすでに期待しておらず、早々に地下壕を出ると、部分降伏に向けた工作を再開した。4月21日午前2時、ケルステンの地所でシェレンベルクとともにアメリカ政財界に強い影響力を持つ世界ユダヤ人会議の特使ノルベルト・マズーアと極秘に面会し、アメリカ政府への執り成しを求めた。ヒムラーはマズーアに「君たちユダヤ人と我々国家社会主義者は共に争いの斧を降ろす時である」などと述べた。マズーアは親衛隊の側が一方的にユダヤ人に斧を振り降ろしていたにも関わらず何という言い草だと思いつつ、それでもいくらかの同胞の命を救うことができるかもしれないと考えてヒムラーとの交渉を続けた。マズーアはスイスかスウェーデンに向かうことができる場所の強制収容所に収容されているユダヤ人については速やかに解放すること、それ以外の場所の強制収容所に入れられているユダヤ人についてはその強制収容所を無抵抗で連合軍に明け渡すまで人間的な待遇を与えることを条件として提示した。ヒムラーはそれを了承した。
ベルナドッテはアメリカ政府にヒムラーの西部戦線降伏提案を伝えていたが、4月29日、アメリカの大統領トルーマンは「部分降伏はありえず」として、正式に提案の拒絶を発表し、ヒムラーは落胆した。しかもこの彼の活動は1945年4月28日、BBCのラジオ放送によって「無条件降伏を申し出た」という旨で暴露され、やがてヒトラーの知るところとなる。
ヒトラーは、かねてからヒムラーとの間の連絡将校ヘルマン・フェーゲラインが亡命を企てて逮捕されたことや、ベルリンの戦いにおける武装親衛隊の不活発さが原因でヒムラーに不信感を持っていたが、自ら「忠臣ハインリヒ」と呼んでいたヒムラーの忠誠を疑うことはなかった。それだけに、上記の報道を知った時のヒトラーは「あのヒムラーに裏切られた」として激怒した。彼は即座にヒムラーの全官職を剥奪し、逮捕命令を出した。当時の彼の官職は親衛隊全国指導者、内務大臣、全ドイツ警察長官、国民突撃隊総司令官であった。
しかし当時の伝達機能の制限により、ヒムラーの逮捕命令が伝達されたのはドイツ北部の指揮権を持っていた海軍総司令官カール・デーニッツの許に届いたものに限られた。デーニッツは逮捕命令を受領するが、命令にはヒムラー以外のドイツ北部の全反逆者の処置命令も附属していたために実行が困難なこと、また、彼が依然として警察や親衛隊を掌握しており、その兵力が多かったために命令を無視している。
5月1日午前0時頃にヒムラーは親衛隊員たちを引き連れてフレンスブルク政府のデーニッツの元を訪れた。デーニッツは不測の事態に備えてUボートの水兵で周りを固めた。自身も銃を書類の下に隠し持っていたという。彼はここでヒトラーの電報をヒムラーに見せ、総統が死んだこと、みずからが後継者に指名されたこと、そしてヒムラーは解任されたことを告げた。電報を読んだ彼の顔は青ざめ、しばらく考えこんだ様子であったという。しかしすぐにデーニッツに祝福の言葉を述べ、みずからが次席としてデーニッツを支えたいと述べた。彼はこれを拒否したが、親衛隊や警察勢力の離反を警戒して結局シュレースヴィヒ=ホルシュタイン州の行政長官の地位を与えた。
しかし戦時中から米英において「ホロコーストの執行者」「強制収容所の支配者」として悪名高かったヒムラーは、降伏処理のために設立された臨時政府であるフレンスブルク政府にとっては邪魔な存在であった。5月6日17時頃にデーニッツはヒムラーと東方占領地域大臣アルフレート・ローゼンベルクらに解任を申し渡した。ヒムラーは首相代行フォン・クロージクと会談したが、結局デーニッツとの交渉を諦めた。