监狱关押的主要对象最初是上海公共租界内被判处徒刑的中国籍男犯人，1904年起兼收中国籍女犯，1906年停止收押女犯，1943年8月起恢复收押女犯，1935年9月起开始关押外国籍犯人。该监狱规模宏大、建筑优良，且收押犯人数量多，最多时达到8000多人，高于印度的孟买监狱及日本的巢鸭监狱，故号称“远东第一监狱”。该监狱自启用到1949年5月，先后由上海公共租界工部局、日本、汪精卫政权、南京国民政府、南京中华民国政府管理。监狱初称“上海公共租界工部局警务处监狱”，1942年1月，更名“上海共同租界工部局华德路