Najaf skal ha blitt grunnlagt i 791 av abbaside-kalifen Harun al-Rasjid. Etterhvert har byen blitt fylt med skoler, bibliotek og sufisenter slik at den ble den viktigste byen for sjiittisk lærdom og teologi, på linje med Qom i Iran. Mange kjente teologer har studert her: Allameh Tabatabaei, Ayatollah Khomeini og Ayatollah Sistani.