Zarqawi ble antatt å bli drept i et amerikansk luftangrep den 7. juni 2006, da han ble identifisert av amerikanske Pentagon-kilder som blant de fremste opprørslederne under opprøret i Irak. al-Muhajir kom seg inn i Jemen ved å bruke falske papirer der det sto at hans navn var Yussef Haddad Labib og han underviste i islamsk fundamentalisme og jihad på forskjellige landsby-skoler like utenfor hovedstaden. Han giftet seg i Jemens hovedstad Sanaa i 1998 og denne kona fikk han tre barn sammen med.