九年（1906年）正式成立「大日本武德会台湾支部」，在台积极推广武道。1920年，改名为大日本武德会台湾本部，并在各州厅设立支部，各郡市设支所。台南武德殿最初位于台南大正公园（今民生绿园、汤德章纪念公园）东侧，后来昭和十一年（1936年）2月时改在南门町台南神社外苑东北角紧邻台南孔庙处兴建现今的台南武德殿，且在武德殿与孔庙之间设有大弓道场，两者皆于同年10月10日竣工，并在10月24日与神社外苑同时举行落成典礼。原本的第一代台南武德殿则改建为台南市历史馆。二次大战后，台南武德殿改为台南市立中学与忠义