Bin Laden kom tilbake til Jidda sent i 1989, reiste på nytt til Pakistan i 1991 og hadde da opprettet forbindelse med sudanske islamister. Situasjonen i både Pakistan og Afghanistan anså han som for usikker, og slo seg i stedet til i Khartoum i desember 1991 – etter invitasjon fra Hassan al-Turabi. Sudan var et velegnet sted å drive opplæring av gerilja, og han drev der organisering og finansiering av utenlandske mujahedin. I 1994 hadde han omkring 5000 mann, og disse arbeidet i bin Ladens byggeprosjekter eller i landbruket samtidig som de fikk militær opplæring. Deretter infiltrerte de Egypt, Libya, Tunisia, Algerie, Marokko og østafrikanske land.