Schon vor der Eroberung Englands durch die Normannen befand sich an dieser Stelle eine Kirche, der Legende nach soll All Saints im Jahr 685 für St. Cuthbert von Lindisfarne gebaut worden sein, dies ist jedoch nicht belegt. Im Domesday Book wird sie als Besitztum des Bischofs von Durham genannt, der die Kirche als königliche Schenkung erhalten habe. Eine Grabplatte aus dem 10. Jahrhundert ist erhalten geblieben und archäologische Funde aus dieser Zeit belegen die Existenz dieses frühen Kirchenbaus, der nach dem Yorker Straßennetz während der anglo-skandinavischen Besiedlung ausgerichtet war. Diese erste Kirche wurde vermutlich im 11. Jahrhundert abgebrochen und durch einen Neubau ersetzt, der sich an der Stelle der heutigen Kirche befand. Es ist unklar, ob sich die Erwähnung im Domesday Book auf die erste oder diesen zweite Kirchenbau bezieht. Im 12. Jahrhundert wurden Seitenschiffe auf Nord- und Südseite des Kirchenraumes angefügt. Das heutige Gebäude stammt jedoch fast in allen Teilen aus dem 14. und 15. Jahrhundert. Der Turm mit der Turmlaterne wurde um 1400 errichtet und um 1443 wurde der Obergaden eingefügt, vermutlich zeitgleich mit dem Zinnenkranz als Abschluss der Fassaden. 1782 wurde der Chor auf der Ostseite der Kirche abgebrochen, um den Marktplatz auf dem Pavement zu erweitern. Der heutige östliche Abschluss der Kirche war ursprünglich die Vierung und wurde 1837 von George Edmund Street entworfen. Die Reste eines mittelalterlichen Rundbogens aus dem abgebrochenen Ostteil sind noch heute über dem Ostfenster in der Kirche sichtbar.