In der folgenden nationalsozialistischen Besetzung Litauens wurden hier Tausende von Juden aus dem Ghetto Wilna sowie Polen von der Gestapo und der litauischen Sicherheitspolizei "Saugmas" gefangengehalten. Die meisten von ihnen wurden im Wald von Ponary erschossen. Bei der Rückeroberung durch sowjetische Truppen im Jahre 1944 kam das Gefängnis zurück an den NKWD, der hier Tausende polnischer Aktivisten und Mitglieder der Polnischen Heimatarmee gefangen hielt.