Før invasjonen av Sovjetunionen i juni 1941 satte Heydrich og Bruno Streckenbach opp fire Einsatzgrupper som skulle følge bak hver sin armegruppe inn i de erobrede områdene. Lederne ved invasjonstidspunktet var de høyere SS-offiserene Franz Walter Stahlecker, Arthur Nebe, Otto Rasch og Otto Ohlendorf. Ledelsen av Einsatzgruppene med underenheter var dominerte av velutdannede, relativt unge menn fra RSHA. I mai og juni 1941 ble mannskap til enhetene samlet ved politiskolen i Pretzsch der Heydrich kom på besøk mange ganger før invasjonen 22. juni. For Heydrich var invasjonen slutten på en frustrerende periode der SD/Sipo fikk utrettet lite i Vest-Europa og der befolkningsituasjonen i Polen forble uløst.