I 1928 giftet han seg med Margarete Boden. Hun var åtte år eldre enn ham og belærte ham om naturmedisin og homøopati. Sin medgift investerte hun i en hønsefarm i München-forstaden Waltrudering som hun drev, mens Himmler stort sett var på farten i politiske ærend. 8. august 1929 ble deres eneste barn født, Gudrun Burwitz, som etter krigen ble kjent som meget aktiv i SS-veteranenes hjelpeorganisasjon (= Hjelp i stillhet). Margarete adopterte også en gutt som Himmler viste liten interesse. I 1942 fikk Himmler sønnen Helge med sin sekretær Hedwig Potthast, som han kalte (= lille hare). I 1944 fikk de datteren Nanette. Himmler ønsket skilsmisse fra Margarete, men hun nektet av hensyn til Gudrun. I stedet innredet Himmler en komfortabel bolig for Häschen og deres barn i nærheten av Hitlers Berghof.