清康熙年间或更早，曾在道光二十二年（1842年）重建；另一说是在道光二十二年（1842年）由信众集资兴建。而在最初庙址是位在今延平郡王祠文物馆附近，之后于咸丰九年（1859年）四月由管理人曾君腾等10人发起重修，同治五年（1866年）再次重修。而在进入日治时期后，管理人暨大埔街保正叶永声在大正元年（1912年）12月倡修，次年（1913年）1月完工。而后一说是因为大正三年（1914年）开山神社改建，另一说是因为昭和十六年（1941年）开辟大埔尾街通往台南高等女学校（今台南女中）的道路，导致庙宇遭到拆除。