Klosteret ble allerede fra begynnelsen av planlagt brukt som gravsted for kongene av Kent og erkebiskopene av Canterbury. I 978 ble en større bygning vigslet av erkebiskop Dunstan, viet til Peter og Paulus, og til Augustin.