5年（1946年）3月16日改为「台湾第三监狱」，附设台湾台南地方法院看守所与高雄、嘉义两支监，隶属于司法行政部。民国36年（1947年）4月1日，改为「台湾台南监狱」，原先两支监独立为「台湾高雄监狱」与「台湾嘉义监狱」。原址位于今日台南市中西区大亿丽致酒店、新光三越百货台南新天地现址(和意路、西门路一段、永福路一段、树林街二段所围成的四角形区域)，后因面积狭小不敷使用，以及位于市区（原属郊区，因都市发展而使得周边高楼林立）妨碍都市发展等因素，于民国61年（1972年）11月筹画迁建。最初新址选在安南区