Byen var en romersk utpost kalt , grunnlagt under Augustus. Før dette var byen kun kjent under det keltiberiske navnet Salduba. Fra 1018 til 1118 var Zaragoza en av Taifakongedømmene, uavhengige muslimske stater som dukket opp i det ellevte århundre etter Córdoba-kalifatets kollaps. I 1118 ble byen gjenerobret av de kristne og gjort til hovedstad i kongeriket Aragón.