Selv om regimets politikk overfor jødene ble utformet av Himmler og propagandaminister Joseph Goebbels, lå det utøvende arbeidet hos Müllers underordnede Adolf Eichmann, som leder av avdelingen Referat IV B4. Reinhard Heydrich var Müllers direkte overordnede fram til han ble drept i 1942, og Ernst Kaltenbrunner var deretter Müllers overordnede for resten av krigen.