Zarqawi ble også utpekt som hjernen bak et planlagt terrorangrep i 2004 der den jordanske statsministerens kontor, etterretningstjenestens hovedkvarter og den amerikanske ambassaden skulle angripes med kjemiske våpen. Senere i 2004 ble al-Zarqawi fanget av irakiske styrker, men sluppet fri da de ikke gjenkjente han.