イラクの聖戦アル＝カーイダ組織
特に、2004年10月に実行したイラク日本人青年殺害事件では、初めて日本の民間人が犠牲となったことなどから、日本全土に衝撃を与えた。
2006年1月、ラマーディーの警察署を襲撃し、シーア派80人を殺害した。このため、ラマーディーでは自警団「アル=アンバル報復大隊」が編成された。同月15日、イラク人の支持を失ったことへの対応として、スンニ派武装組織の統一機構であるムジャーヒディーン評議会を編成した。(のちにこの組織は他組織と合併したうえでイラク・イスラム国を名乗る。) 同年4月、アメリカ軍当局は、ザルカーウィーがテロ攻撃の対象をアメリカ軍からイラク住民に切り替えたと表明した。
2006年6月8日、アメリカ軍がF-16戦闘機の爆撃でザルカーウィーを殺害した。同月12日、ムジャヒディン評議会は、アブー・アイユーブ・アル=マスリーがザルカーウィーの後継者になったと表明した。