Det er antatt at på den tiden da Robert Mowbray ble tatt til fange i 1095 besto festningen av festningsvoller av jord og med en palisade og pæleverk av trestokker. I 1296 fikk klosterforstanderen kongelig tillatelse til omgi klosteret med steinvegger, noe han også fikk utført. I 1390 ble et vakthus og porttårn konstruert mot landsiden av festningen. Mye av gjenstår fortsatt av klosterstrukturen foruten festningens vakthus og vegger som var 975 m lange.