Klosteret ble bygget i romansk arkitektonisk stil av en ukjent arkitekt, med tre kirker bygget i rekkefølge fra 300- til tidlig på 1100-tallet. Den eldste basilika var verdens største kirke fram til byggingen av Peterskirken begynte i Roma.