不过当时因为兴建经费筹措上的困难，因此最后拖了两年才由另外的信徒林祯和林阿乖等人对外发动乐捐筹措经费。1929年12月5日，关山天后宫兴建工程结束，并举行建醮大典，典礼中，天后宫内再加祀关圣帝君、神农大帝等神像。1937年，中日战争爆发，当时台湾总督府施行「皇民化运动」，并针对台湾汉人民族意识上企图进行消灭，其中宗教上，总督府执行了寺庙总整理政策，强迫台湾人毁弃神像、寺庙等，并强制参拜神社。而关山天后宫为避免神像与庙宇建筑被毁，因此改名为关山寺，并改信奉三宝佛祖，不过民间上仍暗中奉祀妈祖，如期举行祭