Nach der US-Invasion des Irak im Jahr 2003 schloss sich al-Baghdadi der militant-sunnitischen Islamistengruppe Ansar as-Sunna an. Im Februar 2004 wurde er festgenommen und bis Dezember 2004 im Camp Bucca der US-Streitkräfte im Irak interniert. Zuvor befand sich al-Baghdadi im Gefängnis in Abu Graib mit der Gefangenennummer US9IZ-157911CI.