4000间囚室，以及工场、医院、炊场、办公楼等建筑，总计建筑面积7万余平方米。监狱周围设有5米多高的围墙，监狱内除了普通监室外，还设有“橡皮监”（防暴监房）、“风波亭”（禁闭室）、“室内刑场”（绞刑房）、室外刑场等等特种设施。监狱关押的主要对象最初是上海公共租界内被判处徒刑的中国籍男犯人，1904年起兼收中国籍女犯，1906年停止收押女犯，1943年8月起恢复收押女犯，1935年9月起开始关押外国籍犯人。该监狱规模宏大、建筑优良，且收押犯人数量多，最多时达到8000多人，高于印度的孟买监狱及日本的巢鸭监狱，