并于底层添设留置场，用于管押政治犯。除关押中国人外，包括英、美、俄等外国侨民，乃至有所谓“危险思想”的日本人均拘留于此。太平洋战争后，日军扩大此处的关押规模，并将牢房门口改用碗口粗的圆木做为木栅门。到1942年，平均每间关押人数达三四十人。例如鲁迅夫人许广平、美国记者约翰·本杰明·鲍威尔等均于此处羁押过。1945年，日本投降以后，大楼为淞沪警备司令部接收作为稽查处的办公场所使用。1947年，大楼由军方出售予中国银行，并改建为银行员工宿舍。次年起，银行员工逐步搬入其中。2005年10月，大楼入选上海市第四批优