Etter den amerikanske invasjonen av Afghanistan, dro han tilbake til Irak fra De forente arabiske emirater i 2002. Han bodde i Bagdad i 2003, der han hadde ansvaret for al-Qaidas operasjoner i den sørlige delen av landet. USA militære sier at Masri «bidro til å trekke andre opprørsgrupper inn i al-Qaidas fold.». Mens han oppholdt seg i ett to-etasjes hus i Bagdad ble huset truffet i et amerikansk flyangrep, så en av mennene ble drept, men resten av gruppen var stand til å flykte til Fallujah, sier en sunni-arabiske byen vest for Bagdad. Ettersom amerikanske soldater stormet flere irakiske byer ettersom invasjonen av Irak skjøt fart, så måtte al-Muhajir og hans følge flytte på seg stadig oftere. I november 2004, flyttet familien igjen, denne gang til Abu Ghraib, en by i den vestlige utkanten av hovedstaden som var beryktet for sitt fengsel og avsløringen av mishandling av fanger som ble begått av amerikanske vakter der. I 2007, flyttet de til Lake Tharthar-området. De skiftet oppholdssted hele tiden, og de deltok under slaget om Fallujah i 2004.