当时公园内的大土丘（砲台山）亦为台中古名「大墩」的发源地，而日月湖也是绿川流经形成的天然水塘。1900年台湾总督府于台中市实施市区改正计划，除将台中市区街道採棋盘式规划，并规划公园设施，最初公园原规划在今台中车站位址，后因铁路经过而变更公园位址迁至新高町现址（车站预定地上的台中物产陈列馆亦拆迁至台中公园内），当时除了由雾峰林家捐出名为「瑞轩」之私有花园为建地外，并结合台中省城之北门楼、原大墩街东北端的砲台山（东大墩孤丘）为建地，其建筑经费全由当地官民捐献。1903年10月28日落成启用，初名「中之岛公园