于今台南市中西区公所附近的两广会馆（今已不存）上课，原先学生只有150名。后来1915年时校舍完工，学校便迁移过去，而学生数也成长至200多人，至于讲堂则于两年后完工。而1920年因官制改变，该校改名为「台南州立台南中学校」，之后因第二中学校（今国立台南第一高级中学）的成立而改为第一中学校。而在1923年4月20日时日本皇太子裕仁（昭和天皇）曾至该校参观。二次大战结束后，该校因多数的日籍学生返回日本而使得学生人数锐减，因此与今台南一中曾短暂合併，导致校务停顿。后来改为「台湾省立台南第二高级中学」，精省后