大正元年(西元1912年)十一月台南公园营造动工，大正6年（1917年）完工，配合台湾总督府始政22週年纪念日于同年6月17日举办开园式。由于台南公园兼作热带实验林的关系，所以园内有许多的树种；昭和9年（1934年），因拓宽幸町道路（今南门路）重道崇文坊迁离台南警察署前的原址，重组于园内。
战后.二次大战后，中华民国政府治台，该公园易名中山公园，并在燕潭中兴建了楼台曲桥。民国六十三年（1974年）时，台南市立图书馆自原位于吴园后的旧馆，移入中山公园内，将绿池填平兴建馆舍。而在