2003-ban az Egyesült Államok vezetésével a nemzetközi erők lerohanták Irakot, ezután az iraki felkelés idején vált hírhedtté a jordániai Abu Musab al-Zarqawi, és terrorszervezete (Jama'at al-Tawhid wal-Jihad) főképpen öngyilkos merényletekkel, síita mecsetek, civilek és iraki kormányzati intézmények ellen. A szervezet hivatalosan is szövetségre lépett az Al-Káidával, 2004 októberében. Nevét Tanzim Qaidat al-Jihad fi Bilad al-Rafidayn-ra (ismertebb nevén: Iraki Al-Káidára [AQI]) változtatta. Továbbra is folytatódtak a merényletek, civilek, külföldi diplomaták és katonák ellen. Az Al-Káida helyettes vezetője, Ayman al-Zawahiri, 2005 júliusában, egy al-Zarqawinak címzett levélben, egy 4 lépcsős tervet vázolt fel arra, hogyan kellene kiterjeszteni az iraki háborút. A terv szerint először ki kell űzni az amerikai katonákat az országból, ki kell kiáltani a kalifátust, a felkelést ki kell terjeszteni a szomszédos világi országokra, majd meg kell küzdeni Izraellel.