Sok történész úgy tekint rá, mint a náci elit legsötétebb alakjára, Adolf Hitler úgy jellemezte, mint „a vas szívvel rendelkező ember”. Ő volt az alapítója a Sicherheitsdienst (biztonsági szolgálat, SD) elnevezésű hírszerző szervezetnek, melynek feladata a Náci Párttal szembeni ellenállás leküzdése és semlegesítése volt letartóztatások, deportálások és gyilkosságok révén. Segített megszervezni a kristályéjszakát, a zsidók elleni összehangolt támadások sorozatát 1938. november 9–10-én a Náci Németországban és Ausztriában.