L'église abbatiale saxonne n'est plus visible car le premier abbé normand, Paul de Caen, la fait entièrement reconstruire à partir de 1077 en style roman, réutilisant à cet effet les briques récupérées sur le site de la ville romaine de Verulamium.