Geriljakrigen mot det regimet støttet av Sovjetunionen var en viktig periode i bin Ladens liv og for utvikling av internasjonal militant islamisme. Han ble sjokkert over Sovjetunionens innmarsj i Afghanistan og begynte å bistå «mujahedin» ved hjelp av families entreprenørfirma, blant annet til å bygge veier og bunkere i tunneler. Sammen med Abdallah Azzam drev han også rekruttering av tusenvis av arabere til kamp mot de sovjetiske okkupantene, og han skaffet millioner av dollar fra velstående arabere til krigen. Sovjetunionens utmarsj i 1989 ble feiret som en seier for den religionsbaserte krigføringen.