Химлерова политичка каријера започела је негде око 1922. године, када је као члан Дер Фрајвега упознао Ернста Рема. Још пре него што се учланио у НСДАП био је декларисани антисемита. Преко Рема и Штрасера постао је члан странке. Учествовао је у Пивничком пучу 9. новембра 1923. године, када је са још 400 сабораца заузео Министарство рата. Након пивничког пуча, Нацистичка партија је забрањена. Након њеног поновног оснивања 27. јануара 1925. брзо је напредовао у хијерархији странке. Штрасер му је касније дао посао свог секретара. С напретком Штрасера напредовао и Химлер. Када је Штрасер 1926. године постао руководилац државне пропаганде Химлер је био његов заменик. Награда за оданост стигла је 1929. године. Хитлер га је именовао за заповедника Шуцштафела, (СС-а) своје личне телесне страже.