区别在台南市新美街上的另一座被称为「小关帝庙」的开基武庙而言。祀典武庙以其建庙之早、文物之丰、格局之壮伟、地位之尊崇，故其名列台湾地区重要一级古蹟。明郑时期，永历十九年（西元1665年），郑经于台南府城建造四座庙宇，其中建「文庙」于鬼仔埔（即今日台南孔子庙）；建「真武庙」于鹫岭，（即今日台南北极殿）；立明室宗庙于承天府署（赤崁楼）西南方，（即今日大天后宫）；又建关帝庙、佛祖厅于宗庙之东北角，亦即赤崁楼之正南方，其正是祀典武庙的前身。但建庙之确切年份，据台南市政府文化局之相关资讯，尚无法考究其确切年份。