Збирався стати професійним офіцером, але після закінчення військового училища на фронт не потрапив, адже на той час 1-а світова війна вже скінчилася. Гіммлер вступив до одного з найчисельніших підрозділів «Корпусу добровольців». Потім учився на сільськогосподарському факультеті Мюнхенського технічного інституту, де зблизився з націоналістично налаштованими ветеранами 1-ї світової війни. Під час «Пивного путчу» 1923 року Гіммлер був прапороносцем, ніс т. зв. «бойовий стяг рейху». Деякий час він був секретарем Ґреґора Штрассера — лідера соціалістичного крила нацистської партії. У серпні 1925 року Гіммлер вступив у відновлену Гітлером НСДАП і був призначений ґауляйтером Баварії. У 1928 року Гіммлер одружився зі старшою за нього на сім років дочкою прусського землевласника Марґарет Боден.