El grupo juró lealtad oficial a al-Qaeda liderado por Osama bin Laden en una carta en octubre de 2004 y cambió su nombre oficial a "Tanzim Qaidat al-Yihad fi Bilad al-Rafidayn" (, "Organización de la base de la yihad en Mesopotamia"). Ese mismo mes, el grupo, ahora popularmente referido a cuando Al-Qaeda en Iraq (AQI), secuestró y asesinó al ciudadano japonés En noviembre, al-Zarqawi y su grupo era el objetivo principal de la Segunda batalla de Faluya pero en su liderazgo logró huir el asedio estadounidense y la posterior toma de la ciudad.