Ислямска държава води началото си от различни терористични групировки, възникнали в Ирак след войната от 2003 година, най-вече „Ал-Каида в Ирак“ (АКИ), тогава водена от Абу Мусаб ал-Заркауи. Бруталното насилие на АКИ и опитите ѝ да разпалят религиозен конфликт между сунити и шиити са прекратени с елиминирането на Ал-Заркауи от американските войски. След изтеглянето им обаче иракските служби за сигурност се оказват неспособни да спрат възраждането на групировката под формата на „Ислямска държава в Ирак“, но въпреки това тя остава сравнително слаба. Нарастващото възприятие на сунитите за изолация от иракския политически живот и избухването на гражданската война в Сирия допринасят за увеличаването на влиянието на групировката. Това е най-мощната опозиционна групировка в Сирия.