8月起恢复收押女犯，1935年9月起开始关押外国籍犯人。该监狱规模宏大、建筑优良，且收押犯人数量多，最多时达到8000多人，高于印度的孟买监狱及日本的巢鸭监狱，故号称“远东第一监狱”。该监狱自启用到1949年5月，先后由上海公共租界工部局、日本、汪精卫政权、南京国民政府、南京中华民国政府管理。监狱初称“上海公共租界工部局警务处监狱”，1942年1月，更名“上海共同租界工部局华德路刑务所”。1943年8月，汪精卫政权接管后，改称“司法行政部直辖上海监狱”。抗日战争胜利后，南京国民政府接管，仍称“司法行政部