Sipo ble så sentralisert i RSHA, som var inndelt i flere kontorer. SDs operasjonelle virksomhet lå under Amt III og Amt VI; utenlandsetterretning lå under sistnevnte. Gestapo var Amt IV, og Kripo Amt V. Otto Ohlendorf ble sjef for Amt III (SD-Inland, innenrikstjenesten) mens Walter Schellenberg ledet Amt VI (SD-Ausland, utenrikstjenesten). Amt V, Kripo, ble ledet av Arthur Nebe.