Уже 2 июля в город прибыла айнзатцгруппа A, которая в тесном взаимодействии с литовской полицией и местными активистами начала акции по уничтожению узников гетто. Гражданские лица за каждого пойманного мужчину-еврея получали 10 рублей. В нескольких километрах от Вильнюса в лесу около посёлка и железнодорожной станции Панеряй (Понары) проводились массовые расстрелы. До образования гетто немцы, литовская полиция и активисты из местного населения уничтожили около 30 тысяч жителей Вильнюса еврейского происхождения.