I løpet av den tiden Schöngarth var stasjonert i Kraków i Polen ble han aktivt involvert i jødeforfølgelsene som Befehlshaber der Sicherheitspolizei und des SD (BdS). Ved angrepet på Sovjetunionen ble det organisert fire innsatsgrupper (Einsatzgruppen) av sikkerhetspolitiet bak de kjempende styrkers rekker. Deres vesentligste oppgaver, sammen med SD som de samarbeidet med, var å gjennomføre de tyske rasepolitiske mål. I løpet av den tyske hærs raske fremmarsj med innsatsgruppene hakk i hælene myrdet de hundretusener av jøder og polakker. Mer enn én million jøder klarte imidlertid å flykte. Det viste seg etterhvert at mange jøder var blitt oversett av innsatsgruppene. Derfor ble en ny drapsbølge planlagt og gjennomført.