原站房过于老旧且不敷使用，开始提出台南驿本体建筑改建和其它建物改良计画。计画于昭和7年（1932年）审议完成，昭和9年开始施工，由台湾总督府交通局铁道部改良课日籍建筑师宇敷赳夫设计。昭和11年（1936年）3月，位于北门町的第二代台南驿完工，为近代折衷主义风格之二层楼钢骨钢筋混凝土建筑，月台屋架为铸铁构造，第一、二月台间的地下道亦为当时所建。当时站房外侧为门廊车道，设有赤帽室及公众电话室，室内一楼前栋为售票大厅，后栋为事务室、卖店、贵宾室及三个等级的候车室，且设有寄物室供旅客使用，二楼则为台南铁道饭店之