Abans de la invasió americana de l'Iraq, agents de les forces especials (Special Activities Division SAD) van arribar a la zona per derrotar a Ansar al-Islam en cooperació amb el govern kurd. El territori fou controlat ràpidament poc abans de la invasió el febrer del 2003. Krekar va fugir a Noruega; uns quants militants van morir en la lluita i es va descobrir una fàbrica d'armament químic a Sargat, l'única descoberta a l'Iraq i justament en un territori fora del control de Saddam Hussein. El grup va organitzar alguns atemptats: el 22 de març de 2003 un cotxe bomba que va matar diverses persones entre les quals el periodista australià Paul Moran; el 9 de setembre de 2003 a una dependència americana a Irbil que va matar 3 persones; l'1 de febrer de 2004 un suïcida es va immolar en les celebracions dels partits kurds a Irbil i va matar 109 persones i ferir a més de 200 (aquest atemptat el va reivindicar el grup "Ansar al-Sunnah", els defensors de la Sunna). El setembre de 2006 onze suposats membres de l'organització foren penjats a Irbil. El desembre de 2007 Ansar al-Sunnah va reconèixer formalment que era el mateix que Ansar al-Islam i va restaurar aquest nom. El 4 de maig de 2010 Abu Abdullah al-Shafi'i, que dirigia l'organització des del 2003 fou capturat pels americans a Bagdad.