Azzam å undervise ved International Islamic University i Islamabad i Pakistan i 1980. Litt senere flyttet han fra Islamabad til Peshawar som lå nærmere den pakistanske grensen til Afghanistan. I Peshawar etablerte Azzam Maktab al-Khadamat (Services Office) for å organisere et pensjonat i Peshawar og flere paramilitære treningsleiret rundt om i Afghanistan for å forberede internasjonale rekrutter til den afghanske jihaden.