Deretter ble Hartl utnevnt til sjef for Byrå IV B innen Reichssicherheitshauptamt (RSHA), Det tredje rikes sikkerhets- og etterretningsministerium. Hartls avdeling beskjeftiget seg med nasjonalsosialismens ideologiske motstandere, til hvem hørte blant andre politisk katolisisme og sionisme. Hartl skulle bli Adolf Eichmanns nærmeste sjef.