První dřevěný kostel byl postaven v 13. století. Zděný kostel byl postaven jako obranný kostel na křižovatce cest z Tallinnu do Narvy a z Rakvere k severním přístavům na pobřeží Baltského moře včetně přístavu Toolse. Byl stavěn ve třech etapách. V první etapě v letech 1430–1440 byla postavena loď a kněžiště. V další trojlodní loď a zaklenutí a koncem 15. století byla věž zvýšena na 34 metry. Věž sloužila jako strážní, měla vlastní krb a otvory pro odvedení kouře. Kostel vyhořel v období Livonské války v roce 1558 a během severní války v roce 1703. Později vyhořel po zasažení bleskem v roce 1761 a v roce 1831 požár zničil věž a střechu kostela. Dnešní podoba pochází z roku 1865.