Arabit voittivat sasanidit Qadisiyyan taistelussa nykyisen kaupungin eteläpuolella vuonna 637 ja valtasivat voittonsa jälkeen Kresifonin. Valtaansa vakiinnuttaakseen arabit perustivat alueelle varuskuntakaupunkeja, kuten Kufan ja Basran. Vuonna 750 abbasidit kukistivat umaijadit abbasidien vallankumouksessa ja Abu al-Abbasista tuli uusi kalifi. Hänen seuraajansa al-Mansur päätti perustaa valtakunnalle uuden pääkaupungin, jolla ei olisi historiallisia yhteyksiä entuudestaan ja joka mahdollistaisi tärkeiden kauppareittien hallinnan. Sopiva paikka löytyi vuonna 762 Tigrisjoen varrelta ja lähellä sijaitsi pieni sasanidien aikainen Bagdad-niminen kylä. Uutta kaupunkia rakentamaan tuotiin arkkitehteja ja työläisiä eri puolilta muslimimaailmaa ja se valmistui neljässä vuodessa. Seuraavien kolmen vuosikymmenen aikana Bagdadista kasvoi Eurasian johtava kaupunki, jossa asui arviolta 700 000 asukasta. Bagdad tuli tunnetuksi teologian ja filosofian keskuksena ja se tuotti esimerkiksi kaksi tärkeää islamn lainopillista koulukuntaa, Abu Hanifan (699–767) hanafi-koulukunnan ja Ahmad ibn Hanbaln (780–855) hanbali-koulukunnan. 300 vuotta heidän jälkeensä Abdul Qadir al-Jilani (1077–1166) perusti suufilaisen Qadiriya-veljeskunnan ja on yksi suufilaisuuden tärkeimmistä pyhimyksistä ja Abu Hamid al-Ghazzaliia (1058–1111) pidetään yhtenä merkittävimmistä islamilaisista teologeista. Kalifi al-Mansur oli perustanut myös Bayt al-Hikman, jossa käännettiin kreikkalaisia tieteellisiä tekstejä arabiaksi ja algebran kehittäjä al-Khwarizmi eli ja työskenteli Bagdadin observatoriossa.