天平元年（729年）、藤原光明子が臣下の出身では初の皇后に立てられると、その家政機関として皇后宮職が設置された。天平勝宝元年（749年）7月2日、光明皇后の夫聖武天皇の譲位により、二人の間の娘孝謙天皇が即位し、光明子は皇太后となった。聖武は病弱で政治に対する意欲に乏しく、男性の天皇では初めて譲位して上皇となった。孝謙は、後継者とすべき男子も兄弟もいない独身女性であり、その地位も皇位継承を巡る政治状況も安泰とはいえなかった。不安定な状況下で朝廷の押さえとなり新帝を後見する立場にあった光明皇太后は、皇后宮職を紫微中台に改める。その名は唐の玄宗皇帝の時代に中書省を改称した紫微省と則天武后の執政時代に尚書省を改称した中台に由来するもので、単なる家政機関にとどまらない太政官とは別個の国政機関を意図した改称であり、皇太后の命令（令旨）を施行し兵権を発動する権能を持った。長官の紫微令には、皇太后の甥の大納言藤原仲麻呂が任じられ、中衛大将も兼務した。当時、皇太后の異父兄橘諸兄が左大臣、甥藤原豊成（仲麻呂の兄）が右大臣にあって太政官を統括していたが、皇太后の信任はむしろ学才に優れて中国の制度・文物に通じる仲麻呂に向けられた。天平勝宝9年5月20日（天平宝字元年・757年6月11日）、紫微令を準大臣待遇の紫微内相に改める（内臣に準じた役割を果たしたとされる）。紫微中台は、太政官の大臣が持つ内外諸兵事を管掌し、太政官・中務省を経ず直接詔勅を実施する権限を得た。当時太政官を巻き込んで展開された反仲麻呂・反孝謙天皇の動き（2ヵ月後に橘奈良麻呂の乱が発生する）に備えたものとされている。
1929年1月6日にハイデンの副官であったハインリヒ・ヒムラーが第4代親衛隊全国指導者に任じられた。この時の親衛隊は280名ほどの弱小組織であったが、ヒムラーの下で親衛隊はその規模を急速に拡大させ、1929年末には1000人、1930年末には2700人、1931年には1万5000人、1932年4月には2万5000人、1932年末には5万人以上になっていた。これは1929年10月24日のニューヨーク・ウォール街の大暴落により発生した世界恐慌が関係していた。失業者がなだれを打ってナチ党やナチ党組織へ参加を希望し、親衛隊にも入隊希望者が殺到した。もちろん突撃隊は親衛隊より多くこの人材源を吸収した。これによりドイツ各地で徒党を組んで無法行為を働く突撃隊員が増加した。ついには党首ヒトラーの統制すらも受け付けなくなるほどに荒れ、当時選挙による合法的政権獲得を目指していたヒトラーにとっては頭痛の種となっていた。ヒトラーはこの突撃隊の無法分子に対する警察組織の必要性を痛感し、その任務を果たす組織としてヒムラー率いる親衛隊に目を付けた。加えて親衛隊の拡大に強く反対していた突撃隊最高指導者フォン・ザロモンがヒトラーとの対立から1930年8月12日に辞職することになり、さらに同月終わりには東部ベルリン突撃隊指導者ヴァルター・シュテンネスが党指導部に対して反乱を起こした。こうした情勢からヒトラーは1930年11月7日付けの命令で正式に親衛隊を党内警察組織と規定し、親衛隊は突撃隊の指揮に従う必要はないと定めた（ただし1934年の「長いナイフの夜」までは形式的に突撃隊の下部組織であった）。ヴァルター・ダレの『血と大地』のイデオロギーに強く影響されていたヒムラーは、1929年4月に親衛隊の組織規定の草案をヒトラーやフォン・ザロモンに提出し、人種的な問題を親衛隊入隊の条件に据えるようになった。数で圧倒的に勝る突撃隊を抑え込むためには親衛隊を「エリート集団」にせねばならなかった。そしてヒムラーやダレのいう「エリート」とは金髪で青い目をしている長身の北方人種のことであった。農業を学び、農薬会社に勤めていたこともあるヒムラーは、こうした基準について植物と絡めてこのように語っている。「品種改良をやる栽培家と同じだ。立派な品種も雑草と交じると質が落ちる。それを元に戻して繁殖させるわけだが、我々はまず植物選別の原則に立ち、ついで我々が使えないと思う者、つまり雑草を除去するのだ。私は身長5フィート8インチ（約173センチ）の条件で始めた。特定の身長以上であれば、私の望む血統を有しているはずだからである」。人材の供給源は恐慌の失業者や突撃隊からの引き抜きなどで豊富であった。ただし採用されるのはヒムラーの「品種基準」を満たした者だけであった。ヒムラーは1931年12月31日の命令で親衛隊員の婚姻条例を定め、人種・遺伝の観点から隊員の婚姻に問題がないかどうか調査するための機関として親衛隊人種及び移住本部（RuSHA）を創設し、ダレにその長官に就任してもらっている。ユダヤ人からドイツを守る世界観闘争を担うのは親衛隊であるとの自負心を強めていった。1930年7月にクルト・ダリューゲが親衛隊に参加した。ダリューゲは親衛隊に入る前からベルリン親衛隊をヒムラーから独立して指揮することをヒトラーから認められていた人物で、親衛隊移籍後にもベルリン親衛隊をヒムラーから事実上独立して指揮していた。ダリューゲは1931年3月の突撃隊員ヴァルター・シュテンネスの再反乱の鎮圧に活躍した。この一件は親衛隊の地位を大いに高めた。この際にヒトラーはダリューゲに対して「SS隊員よ、忠誠は汝の名誉（SS-Mann, deine Ehre heißt Treue）」という賛辞を贈っている。この時の言葉が後に「忠誠こそ我が名誉」 という親衛隊のモットーの原型となった。なおシュテンネスの反乱にはプロイセン州内相カール・ゼーフェリンクの政治警察が援助していたといわれ、ヒトラーは党内の情報組織の必要性を痛感し、ヒムラーに親衛隊情報部の創設を指示した。1931年6月には海軍を追放され失業中だったラインハルト・ハイドリヒが親衛隊に参加した。ヒムラーはこのハイドリヒに親衛隊の諜報部「IC課」を任せた。1932年7月にこの組織はSDに改組された。SDは後に全ヨーロッパに監視の目を張り巡らせる巨大諜報機関に成長するが、設立当初はハイドリヒの妻リナが秘書を務め、彼の部下は3人だけという状態であった。しかしハイドリヒは精力的に働き、彼の索引カードには党内外の政敵の様々な情報が記載されていった。ハイドリヒの組織は急速に拡大され、ナチ党の各支部にハイドリヒの地方機関が設けられるようになっていった。突撃隊諜報部など他の党の諜報組織を出し抜き、政権掌握後の1934年6月9日に副総統ルドルフ・ヘスの声明によりSDは党唯一の諜報組織と定められた。1932年1月25日にはミュンヘンの党本部「褐色館」の警備の全権がヒムラーに任せられた。1932年7月7日にはこれまでの突撃隊と同型の制服を改めて親衛隊独自の制服が制定された。これが親衛隊の制服として有名な「黒服」であった。突撃隊からの独自路線を強く示すためであった。ヒムラーは親衛隊の模範としてイエズス会を意識しており、その急速な勢力拡大と黒い制服から親衛隊は「黒いイエズス会」とも呼ばれた。