Ensimmäiset viitteet Al-Qaidan toiminnasta Jemenissä oli USS Colen pommi-isku vuonna 2000 Adenissa. Jemenin heikko keskushallinto ja maan keskiosan syrjäiset vuoristoalueet mahdollistivat Al-Qaidan koulutusleirien ja tukikohtien perustamisen, ja sinne siirtyi järjestön jäseniä Afganistanista ja Pakistanista. Myöhemmin alueelle perustettiin Al-Qaidan oma alayksikkö Arabian niemimaan al-Qaida.