W czerwcu 1941, pod koniec tzw. pierwszej okupacji sowieckiej, NKWD wymordowała dużą grupę więźniów. W trakcie późniejszej okupacji niemieckiej do więzienia przywożono Żydów z wileńskiego getta oraz polskich więźniów politycznych, których rozstrzeliwano w Ponarach ("Paneriai").