La plus vieille église remonte au Bas-Empire : c'était une église d'une seule nef, dont l'assiette était d'environ 50:100 pieds romains. La basilique carolingienne, consacrée en 805, comportait trois nefs (une nef centrale et deux collatéraux) et deux absides de construction plus tardive (sans doute 1114). À l'ouest, outre un vestibule ménagé dans la nef, se tenait la chapelle Saint-Michel, encore dépourvue de tour. Les deux tours de la façade ouest qui apparaissent sur des gravures postérieures ont été ajoutées à l’époque romane. Le chœur gothique construit entre 1300 et 1500 était d'une taille exceptionnelle. Le plan du monastère de Schloss Johannisberg comporte des similitudes avec l'abbaye-mère de Saint-Alban.