Thảm sát Ponary
Đức chiếm đóng Vilnius

Bài chi tiết: Chiến dịch Barbarossa
Giữa hai thế chiến, Vilnius là thủ phủ tỉnh Vilnius và là trung tâm khoa học, văn hóa và kinh tế quan trọng nhất vùng biên giới Đông Bắc của Ba Lan. Thiểu số Do Thái cũng coi đây là "Jerusalem phương Bắc" về văn hóa và tôn giáo. Trước Chiến tranh thế giới thứ hai, dân số Vilnius có 209.000 người, gồm 137.000 người Ba Lan và 57.000 người Do Thái. Theo điều tra dân số 1931, có dưới 1.600 người được thừa nhận mang quốc tịch Litva, chiếm 0,8% dân số. Sau khi Liên Xô tấn công Ba Lan ngày 17 tháng 9 năm 1939, Vilnius bị Hồng quân chiếm giữ và giao lại cho Litva. Tháng 6 năm 1940, cùng với việc sáp nhập toàn bộ lãnh thổ Litva, Vilnius nằm dưới quyền kiểm soát của Liên Xô.
Ngày 22 tháng 6 năm 1941, Đức tấn công Liên Xô. Đến ngày thứ ba, Wehrmacht tiến vào Vilnius. Ngay sau đó, 60 người Do Thái và 20 người Ba Lan bị bắt. Ngày 26 tháng 6, Walter Blume chỉ huy các sĩ quan Sonderkommando 7a xuất hiện trong thành phố. Đơn vị trực thuộc Einsatzgruppe B là một trong bốn Einsatzgruppen SD và cảnh sát an ninh Sicherheitspolizei có nhiệm vụ tiêu diệt người Do Thái, cộng sản và tất cả những ai được coi là mối đe dọa đối với nền thống trị của Đức. Đơn vị 7a chỉ ở lại Vilnius trong vài ngày, rồi được Einsatzkommando 9 do Alfred Filbert chỉ huy đến thay thế. Chỉ trong những ngày chiếm đóng đầu tiên, SK 7a và EK 9 đã bắt giữ gần 8.000 người, đại đa số là dân Do Thái. Ngày 3 tháng 7, chỉ huy quân sự thành phố ban sắc lệnh buộc tất cả người Do Thái phải đeo dấu hiệu đặc biệt (vài ngày sau thay bằng nghĩa vụ đeo băng tay gắn Ngôi sao David). Hàng loạt người Do Thái bị sa thải, bị tịch thu xe cộ và máy thu thanh. Người Ba Lan cũng bị tịch thu đài. Từ đó, người Do Thái chỉ có thể mua thực phẩm tại các cửa hàng đã được chỉ định, trong khung giờ từ 4 đến 6 giờ chiều. Người Do Thái bị cấm ra đường từ 6 giờ chiều đến 6 giờ sáng cũng như cấm sử dụng phương tiện giao thông công cộng, cấm đi bộ trên các con phố chính, cấm đi gặp bác sĩ không phải người Do Thái, cấm đến hàng loạt địa điểm công cộng như công viên, nhà tắm, rạp chiếu phim, rạp hát, nhà hàng và quán cà phê.
Người Litva nhiệt tình chào đón quân Đức. Ngay những ngày đầu tiên, người Litva đã thành lập Ủy ban thành phố Vilnius. Tận dụng ưu ái từ các chỉ huy quân Đức, Ủy ban bắt đầu thành lập chính quyền cho người Litva thiểu số tại thành phố. Song Berlin không hề định giúp Litva. Chẳng bao lâu, quân Đức cấm tất cả các hoạt động của đảng phái chính trị và tổ chức xã hội Litva, dẹp cả treo cờ Litva. Ngôn ngữ chính thức ở vùng chiếm đóng là tiếng Đức. Lãnh thổ Litva trước chiến tranh nằm trong Reichskommissariat Ostland trở thành Generalbezirk Litauen thành lập ngày 1 tháng 9 năm 1941 với thủ đô tại Kaunas.
Thành phố Vilnius cùng với một phần Tỉnh Vilnius trước chiến tranh cũng được nhập vào Generalbezirk Litauen. Thành phố có hai trụ sở cảnh sát tỉnh do Hans Hingst đứng đầu còn thành phố là của Horst Wulff. Ngày 3 tháng 8 năm 1941, SS-Untersturmführer Erich Wolff dẫn Teilkommando 3a vào Vilnius, đơn vị Einsatzgruppen này thuộc Einsatzkommando 3a đang hoạt động tại các vùng Litva bị chiếm đóng. Từ đơn vị này thành lập lên một nhánh của SD và Sipo ở Vilnius (Aussendienststelle Sipo und SD Vilnius). Chỉ huy đơn vị này qua các giai đoạn: Erich (đến cuối tháng 9 năm 1941), SS-Hauptsturmführer Heinrich Gerth (đến cuối năm 1942), SS-Hauptsturmführer Rudolf Neugebauer (đến đầu năm 1944), SS-Hauptsturmführer August Müller (đến tháng 3 năm 1944), SS-Sturmbrer Richter (đến tháng 7 năm 1944).
Tuy không ủng hộ Litva độc lập, Đức thoải mái giao cho người Litva những chức vụ thấp hơn trong chính quyền chiếm đóng. Các tiểu đoàn cảnh sát phụ trợ Litva được thành lập; nhiều nhất là đến năm 1944 lên tới 25 tiểu đoàn. Đức tận dụng cảnh sát Litva (Saugumo policija) trong cuộc chiến chống lại phong trào kháng chiến Ba Lan và cộng sản. Lực lượng này đặc biệt hiệu quả do hiểu rõ tình hình địa phương. Chỉ huy Saugumo ở Vilnius là Alexander Lileikis.
Giữ vai trò đặc biệt trong việc thảm sát dân chúng Vilnius và phụ cận thuộc về một đơn vị cộng tác đặc biệt được thành lập vào cuối tháng 6 đầu tháng 7 năm 1941 trực thuộc SD và Saugumo. Tên gọi chính thức của đơn vị này bằng tiếng Đức là Sonderkommando der Sipo und SD còn tiếng Litva Ypatingasis būrys, nhưng người dân hay gọi là šaulys (tiếng Litva) hay "lính bắn súng Ponary". Đơn vị này bao gồm 4-5 sĩ quan an ninh Đức, một số đặc vụ và một trại biệt kích gồm 45-150 cảnh sát. Cảnh sát thực thi này chủ yếu là người Litva, nhưng có cả quốc tịch Nga hoặc Ba Lan. Chỉ huy là SS-Hauptscharführer Martin Weiss, về sau được Fiedler thay thế. Về phía Litva cao nhất là: Juozas Sidłauskas (23 tháng 7 đến tháng 11 năm 1941), Balys Norwaisz (đến cuối năm 1943) và Jonas Tumas. Ypatingasis būrys ban đầu có nhiệm vụ giữ trật tự đường phố và bảo vệ nhà máy công nghiệp. Tuy nhiên, nó nhanh chóng chuyển thành cỗ máy biệt kích chuyên giết chóc, thực thi hành quyết hàng loạt tại Ponary và các điểm khác trong vùng Vilnius.