Pendant l'Occupation, la prison est utilisée par les nazis pour emprisonner et torturer résistants et agents des services secrets britanniques. Louis Armand, Marc Sangnier, Simone Jacques-Yahiel, Michel Marius Simon, Jean Cavaillès, Gabrielle Ferrières, Marcel Ferrières et d'autres membres du réseau Cohors y sont incarcérés, de même que Raymond Le Charpentier. Le poète Robert Desnos aussi. La résistante Berty Albrecht s'y donne la mort. Les membres de l'Affiche rouge, Manouchian en tête, y sont détenus et torturés pendant plusieurs mois (fin 1943 - début 1944), jusqu'à leur exécution au Mont-Valérien. Blanche Auzello y est emprisonnée et torturée pendant un mois par la Gestapo en . Après le débarquement de Normandie, la Gestapo exécute certains des prisonniers, comme Francine Fromond ou Suzanne Spaak, une semaine avant la libération de Paris.