Det som senere ble ISIL ble etablert under de første årene av krigen i Irak, og de sverget troskap til al-Qaida i 2004. Gruppen var sammensatt og ble støttet av en rekke opprørsgrupper i Irak, inkludert organisasjonene "Mujahideen Shura Rådet", "al-Qaida i Irak", "Jaysh al-Fatiheen", "Jund al-Sahaba", "Katbiyan Ansar Al-Tawhid wal Sunnah", "Jeish al-Taiifa al-Mansoura", etc. og andre sunnimuslimske klaner. Man antar at gruppen var operativ fra 2007 etter da å ha absorbert forgjengerorganisasjonene.