直到明治41年（1908年）初步落成，成为台湾第一个承袭欧洲风格的近代都市公园，由于已移作他用的台北大天后宫尚未拆除，故当时此公园之范围仅为今日范围的南半段。此公园原名为「台北公园」，由于此公园的兴建与落成时间，皆晚于明治30年（1897年）落成的圆山公园（台北第一座大型公园），所以改名为「台北新公园」。台湾总督府于大正2年（1913年）执行「市区改正」，拆除台北大天后宫，并在台北大天后宫原址北侧兴建「儿玉·后藤纪念馆」（今国立台湾博物馆），于大正4年（1915年）完工，且公园的腹地亦随之向北拓展，