Al-Qaida i Irak ble startet av Abu Musab al-Zarqawi, som var fra Jordan. Ifølge en rapport fra den amerikanske regjeringen i 2006 var Al-Qaida i Irak oftest knyttet til utenlandske terroristceller som bare opererte i Irak, og angrep både internasjonale styrker og sivile irakiske statsborgere. Ifølge rapporten var de fleste av de operative lederne i gruppen ikke irakere. Samme år ble al-Zarqawi drept av amerikanske styrker, og i tiden etter dette «fusjonerte» Al-Qaida i Irak med en rekke andre organisasjoner inn i ISIL (se neste avsnitt).