IV-B4 var del av (Gestapo) i RSHA. Heinrich Müller var leder for Amt IV som var en av flere innenfor RSHA (først ledet av Heydrich, etter Heydrichs død av Ernst Kaltenbrunner). Selv om Eichmann formelt hadde lav rang fungerte han som spesialrådgiver for Heydrich. Eichmanns kontor var del av «gruppe» IVB under ledelse av Albert Hartl med ansvar for sekter. Eichmanns stilling ble omtalt som og han kunne som eneste referent gå direkte til Müller utenom Hartl. Rolf Günther var Eichmanns nestkommanderende på jødekontoret. I mars 1941 hadde Eichmanns 107 medarbeidere hvorav tre firedeler var sekretærer og annet kontorpersonell.