1933年1月30日にヒトラーが首相に就任したのち、党幹部が次々と政府や州政府の要職に就任したが、ヒムラーとハイドリヒには何のポストも与えられず、彼らはミュンヘンにとどまっていた。3月9日にハインリヒ・ヘルトが首相を務めるバイエルン州政府がフランツ・フォン・エップ率いる党部隊に制圧されるとようやくヒムラーがミュンヘン警察長官、ハイドリヒがミュンヘン警察政治局長に任命された。さらに4月にはヒムラーがバイエルン州警察長官、ハイドリヒがバイエルン州政治警察部長となった。一方ベルリン親衛隊の指導者であるクルト・ダリューゲは、プロイセン州内相に就任したゲーリングと接近してプロイセン州警察特別委員に任じられ、さらにプロイセン州警察中将の階級を与えられていた。2月22日にはゲーリングは突撃隊員2万5000人と親衛隊員1万5000人をプロイセン州の補助警察として採用したが、その指揮はダリューゲに任せられていた。ダリューゲはますます名目上の上司ヒムラーを軽視するようになった。1933年春にはハイドリヒがヒムラーからダリューゲ鎮撫のためにベルリンに派遣されたが、ゲシュタポ（プロイセン州秘密警察。当時はゲーリングが長官、ルドルフ・ディールスが局長をしていた）に脅迫されてミュンヘンに追い返されている。ヒムラーとハイドリヒはひとまずプロイセン州やベルリンの「ゲーリング王国」に手を出すのを諦め、バイエルン州で反体制派取り締まりに精を出して実績を上げた。彼らは1933年3月にミュンヘン郊外のダッハウに最初の強制収容所ダッハウ強制収容所を創設している。ドイツ国内相ヴィルヘルム・フリックは独立傾向のプロイセン州内相ゲーリングに対抗するための実力を求め、親衛隊に接近してきた。1933年から1934年初めにかけて強制的同一化と併せて各州の政治警察がヒムラーに任せられていった。しかしドイツの国土の大半を占めるプロイセン州の警察は相変わらず、ゲーリングやディールス、ダリューゲらによって支配され続けた。ヒムラーは、自分とゲーリング、ダリューゲなどの間をふらふらしていたプロイセン州やベルリンの親衛隊員達が自分に乗り換えるよう粘り強く揺さぶりをかけ、「ゲーリング王国」の足腰を弱体化させていった。さらにゲシュタポの指揮権を手に入れるため、ディールスについてヒンデンブルク大統領に讒言して一時ディールスをゲシュタポ局長から失脚させている。突撃隊の指導者レームとも争うところが多かったゲーリングは親衛隊とこれ以上争うことは得策ではないと判断し、1934年4月20日、ディールスが務めるゲシュタポ局長の上位職として「ゲシュタポ総監兼長官代理（Inspekteur und stellvertretender Chef des Geheimen Staatspolizeiamtes）」を新設し、ヒムラーをこれに任じた。これをもって実質的なゲシュタポの指揮権をヒムラーに引き渡すこととなった。ヒムラーは、ただちにディールスをゲシュタポ局長から解任し、1934年4月22日に後任としてハイドリヒをゲシュタポ局長に任じ、彼にゲシュタポの実質的な運営をゆだねた。ヒムラーとハイドリヒはバイエルン州ミュンヘンからベルリンのプリンツ・アルブレヒト街のゲシュタポ本部へ移動することとなった。以降、ドイツの政治警察はほぼヒムラーとハイドリヒが掌握するところとなった。一方突撃隊は政権獲得後に総隊員数400万人（うち武装兵士50万人）を抱え、「第二の国防軍」などと呼ばれるまでになっていたが、権力からは遠ざけられ、しかも深刻な隊員の失業問題を抱えていた。突撃隊員の中には「第二革命」を唱えて貴族階級が軍部を占める国防軍を解体して突撃隊を代わりの正規軍とすべきと主張する者も増え、軍と党の軋轢を強めていた。ヒトラーはいよいよ突撃隊の大掃除を考えるようになった。1934年6月30日、長いナイフの夜においてエルンスト・レーム以下の突撃隊幹部や反党分子が数百名殺害された。この事件で主導的地位を果たしたのはプロイセン州内相ゲーリング、そしてヒムラーやハイドリヒなど親衛隊の幹部であった。この実績が認められ、1934年7月20日に親衛隊は突撃隊から分離、独立を果たした。また、1933年の政権獲得後ドイツ各地に建てられた敵性分子を収容する強制収容所(KZ)の監督権もすべて親衛隊に移された。ヒムラーはダッハウ強制収容所所長テオドール・アイケを強制収容所総監に任じた。アイケは1933年末にダッハウ強制収容所の監視部隊を親衛隊髑髏部隊として組織しており、長いナイフの夜事件の際にも粛清の実行部隊として活躍し、事件後には五個大隊に再編されて各強制収容所に警備部隊として配置されるようになった。事件後、フリック内相はヒムラーやハイドリヒを警戒して、引き続きヒムラーから独立的な姿勢を見せていたダリューゲと接近し、彼を内務省警察局長に任命した。さらにヒムラーを名目上の事務職にして、ダリューゲをヒムラーの常任代理にしてドイツ警察を担わせたいと考えた。しかしヒトラーのヒムラー達への信任はすでに盤石なものとなっており、フリックとダリューゲでは抗いきれず、1936年6月17日にはフリックはヒムラーを全ドイツ警察長官に任じることとなった。以降フリックの内相としての地位は形式的なものとなっていった。ヒムラーは、警察組織の統合を目指す一方、一般警察業務と政治警察業務は明確に分離させた。一般警察業務は秩序警察（オルポ）の下へまとめ、一方政治警察は保安警察（ジポ）の下へまとめた。秩序警察はクルト・ダリューゲにゆだね、一方保安警察はハイドリヒに指揮させた。保安警察には次の重要な国家警察機関が含まれていた。秘密警察（ゲシュタポ）と刑事警察（クリポ）である。同じくハイドリヒの指揮下にあったSDとゲシュタポは職務区分が明確でなかったため、反目することがあった。そのため、1937年7月1日にハイドリヒはCSSD命令を出して、両者の職務領域を区分している。SDは党内問題、人種問題、文化問題、教育問題、外国問題、行政問題、フリーメーソンなどを専管するとされ、一方ゲシュタポはマルクス主義、移民、国事犯を専管とすると定めた。教会、世界観問題、ユダヤ人、過激派、黒色戦線（ナチス左派のオットー・シュトラッサーの分派組織）、経済問題、報道問題については共同管轄となった。SDを情報分析機関とし、ゲシュタポを執行機関とするのがこの区分命令の狙いであったと指摘されている。さらに1937年11月13日にヒムラーは「親衛隊及び警察高級指導者（Höherer SS- und Polizeiführer、略称HSSPF）」の職を新設した。彼らはヒムラーの親衛隊全国指導者と全ドイツ警察長官の地位を代行する者としてドイツ国内や占領地の各地に配置されていた。1939年9月、ハイドリヒは政治警察活動の重複を避けるために党機関であるSDと国家機関である保安警察を一つの傘の下に束ねた。それが親衛隊の国家保安本部である。SDは第III局（SD国内諜報）とVI局（SD国外諜報）に、秘密警察（ゲシュタポ）は第IV局に、刑事警察は第V局に配置された。III局はオットー・オーレンドルフ親衛隊中将、IV局は「ゲシュタポ・ミュラー」と呼ばれたハインリヒ・ミュラー親衛隊中将、V局はアルトゥール・ネーベ親衛隊中将、VI局は30歳で親衛隊少将兼警察少将となったヴァルター・シェレンベルクが指揮した。第二次世界大戦後期には国防軍の諜報部であったはずのアプヴェーアが国家保安本部VI局に組み込まれ、ドイツの対外諜報活動はすべて国家保安本部が管轄するところとなった。戦時中に国家保安本部はホロコーストの執行機関であった。1942年1月にはハイドリヒがヴァンゼー会議を開催し、ラインハルト作戦を策定してベウジェツ強制収容所、ソビボル強制収容所、トレブリンカ強制収容所などの絶滅収容所を建設し、ヨーロッパのユダヤ人の絶滅を目指した。さらに東部戦線ではアインザッツグルッペンを組織して、ゲリラ掃討の名目でユダヤ人や一般市民の虐殺を行った。1942年6月にエンスラポイド作戦でハイドリヒが暗殺されるとヒムラーが国家保安本部長官を兼務するようになったが（この間はI局局長ブルーノ・シュトレッケンバッハが長官代理として実務を取り仕切る）、1943年1月からはエルンスト・カルテンブルンナーが後任に任じられて国家保安本部長官となった。1944年7月20日のヒトラー暗殺未遂事件の際にも親衛隊と国家保安本部は最大の鎮圧者として活躍した。戦況が悪化していくにつれて親衛隊や国家保安本部の秘密警察権力は肥大化し、ゲシュタポの暴走を止めるにはヒトラーさえも苦労を要するようになったという。