Umiddelbart etter invasjonen av Sovjetunionen begynte massakrer på den jødiske befolkningen i Litauen, Latvia, Hviterussland og Ukraina. Jødene ble skutt og begravet i massegraver. SS-dødsskvadroner (såkalte ) beveget seg bak Wehrmacht og hadde en sentral rolle i utryddelsen av jøder og andre «uønskede elementer». Norske frontkjempere i SS «Wiking» deltok trolig i massakrer blant annet i Ukraina og Russland. Massakrene foregikk til dels med bistand fra lokale kollaboratører, og det forekom også massakrer i gatene der jødene ble slått i hjel med stokker. De ble oftest drept nær hjemstedet. I Litauen ble de fleste av landets jøder drept i løpet av sommeren og høsten 1941. Himmler var selv til stede ved en massehenrettelse ved skyting utført av Einsatzgruppen sommeren 1941.