1923年8月希姆萊加入了納粹黨，黨證編號14303。希姆萊作為羅姆帝國戰旗的一名成員，參加了他所領導的巴伐利亞鎮壓運動，但僅是一個拿著旗子的跟班，直到今天仍有保留當時的照片，其後也以旗手的身份參加了失敗啤酒館政變，羅姆與希特勒皆被捕下獄，希姆萊則逃過了牢獄之災。希姆萊於何時與希特勒接觸並不清楚，一般認為是在希特勒出獄，納粹黨重建後。在納粹黨被禁止活動的期間，希姆萊加入了埃里希·鲁登道夫創立的偽裝政黨「國家社會主義自由黨」（Nationalsozialistische Freiheitspartei，NSFP），在納粹黨左派的格里哥·斯特拉瑟下擔任秘書。1924年5月和12月德國國會大選，希姆萊為了幫助史特拉塞與其黨員競選，騎著摩托車到處宣傳民族社會主義、反猶太、反共思想，因為成效卓越，史特拉塞獲得了200萬選票、32個國會席位，希姆萊也因此被任命為巴伐利亞-上普法爾茨省黨部副書記。