。此馆所在约为原开山神社之社务所，而馆藏之渊源可追溯至台湾总督府于大正八年（1930年）在台南举行「台湾文化三百年纪念会」活动所收集展示的台湾史料；昭和七年（1932年）设置「台湾史料馆」于安平古堡内（今热兰遮城博物馆）；1935年，为庆祝「始政四十周年记念台湾博览会」，台南市役所配合成立「台南历史馆」共计三处会场，第一会场台南州商品陈列馆（今台南高分院址），第二会场今热兰遮城博物，第三会场今大南门址。1937年后，为将馆藏长久保存及展示，于大正公园（原民生绿园，今汤德章纪念公园）武德殿旧址（今中西区公所址