新山的各界人士于19世纪后期建造，庙里最早的文物有1870年署名“潮州众治子敬立”的匾额上书“总握天枢”和“惹呀坡众弟子同敬”的铜钟，证明柔佛古庙有超过141年的历史。据说它在柔佛州少数在第二次世界大战爆炸中幸存下来的宗教场所。据说古庙是当时的柔佛天勐公和华人社区共同建造，他们认识到来到柔佛州定居的华人的重要性和崛起，正因为如此，以柔佛州命名为柔佛古庙。在1995年至1996年期间，柔佛古庙花了150万令吉进行修复工作，以保护柔佛古庙的原貌。古庙建筑翻新时经过精心设计，以保存历史文物，并沿袭了许多