Neste stopp for al-Zarqawi var en retur til Afghanistan. Der skal han ha satt opp en treningsleir like ved byen Herat, ikke langt fra grensen mot Iran. I denne leiren skal det ha vært gitt opplæring i produksjon og bruk av giftig gass. I denne perioden skal al-Zarqawi ha fornyet båndene til al-Qaida. al-Zarqawi skal ha flyktet til Irak i 2001 etter at USA angrep leiren hans med Tomahawk-raketter.