Der Bau der heutigen Kathedrale wurde 1120 durch Bischof Urban, den ersten von den normannischen Eroberern eingesetzten Bischof, begonnen. Urban plante die Kathedrale als Mittelpunkt seiner Diözese, die bald schon nach Llandaff benannt wurde. Er erweiterte auch die Patrozinien der Kathedrale um das des Simon Petrus, um seine Bindung an die römische Kirche zu verdeutlichen. Ab 1200 wurde die Kathedrale unter Bischof Henry of Abergavenny verlängert, so dass sie eine neue Westfassade erhielt. Dazu entstand um 1250 das südlich an den Chor angebaute Kapitelhaus und bis 1287 wurde unter Bischof William de Braose im Osten die Lady Chapel angebaut, die im Gegensatz zum Rest der Kathedrale weitgehend erhalten blieb. Ein weiterer Ausbau erfolgte im 14. Jahrhundert, als die Fenster der Seitenschiffe im Decorated Style umgestaltet wurden. Ursprünglich besaß die Kathedrale einen freistehenden Glockenturm, der um 1250 auf dem kleinen Hügel anstelle der frühmittelalterlichen Kirche errichtet wurde. Um 1485 wurde der Nordturm der Kathedrale errichtet, der nach seinem Erbauer Jasper Tudor "Jasper Tower" genannt wird und als neuer Glockenturm dient. Der alte Glockenturm dagegen verfiel. Im 15. Jahrhundert verlegten die Bischöfe ihre Residenz nach "Mathern" bei Chepstow. Bis zur Reformation unter König Heinrich VIII. war die Kathedrale noch ein Wallfahrtsziel, das vor allem wegen des Grabs des heiligen Teilo besucht wurde. Durch das Verbot der Wallfahrten verlor das Bistum jedoch seine Haupteinnahmequelle zum Unterhalt der Kathedrale. Die vernachlässigte Kathedrale verfiel, nur die Lady Chapel wurde weiter für Gottesdienste benutzt. Der Jasper Tower und das Dach der Kirche wurden während des großen Sturms 1703 beschädigt, das Hauptschiff wurde zur dachlosen Ruine. 1722 stürzte der aus dem 12. Jahrhundert stammende Südwestturm ein.