Prvním šéfem RSHA byl SS-Obergruppenführer Reinhard Heydrich, který vedl organizaci až do své smrti v roce 1942, kdy byl v Praze zlikvidován v rámci bojové akce provedené parašutisty z výsadku Anthropoid. Jeho místo zaujal SS-Obergruppenführer Ernst Kaltenbrunner, který zůstal v jejím čele až do konce války. Šéf RSHA dohlížel také na jednotky "Einsatzgruppen", které následovaly invazní síly německé armády ve východních oblastech a prováděly masová zvěrstva na civilním obyvatelstvu. Celková zkratka šéfa RSHA byla CSSD – "Chef der Sicherheitspolizei und des SD" (Šéf bezpečnostní policie a bezpečnostní služby).