卫队第3位全国领袖埃尔哈德·海登的副手，但因为在1929年海登被人告发「以犹太人的厂商来制作党卫队制服」而被开除，身为海登左右手的希姆莱也因此成为了第4位党卫队全国领袖。然而当时的党卫队仍隶属于冲锋队之下，人数也不过仅280人。同时，希姆莱自己也是冲锋队大校的身份。1928年7月3日希姆莱与一名利贝自由州（Freistaat Lippe）布隆堡（Blomberg）的地主女儿—玛佳莉特·玻登（Margarete Bode）结婚，玛佳莉特是一名护士，拥有一家小诊所。当时德国物价飞涨，希姆莱光是靠党的薪水月薪