I Afghanistan ble han i 1972 leder av det islamistiske partiet Jamiat-e Islami. I 1974 ble han forsøkt arrestert da afghansk politi tok seg inn på Universitetet i Kabul. Han klarte, med hjelp fra studenter, å rømme til landsbygda. I 1975 prøvde han seg på et mislykket kupp mot president Mohammed Daoud Khan i den daværende Republikken Afghanistan, noe som førte til at han var nødt til å flykte til Pakistan.