১৯৭২ সালে জামায়াতে ইসলামী আফগানিস্তান গঠন করা হয় তাঁর নেতৃত্বে। আফগানিস্তানের উচ্চারণে সেটা জমিয়তে ইসলামী হয়ে যায়। আফগানিস্তান জামায়াতের প্রথম আমীর বুরহানউদ্দিন রব্বানী, সেক্রেটারি সাইয়্যেদ নুরুল্লাহ ইমাদ। আরো গুরুত্বপূর্ণ নেতা ছিলেন, উস্তাদ যাবিউল্লাহ, আহমদ শাহ মাসউদ, ইসমাইল খান, আতা মুহাম্মদ নূর, মোল্লা নকীব, ড. ফজলুল্লাহ, গুলুবুদ্দিন হেকমতিয়ার প্রমুখ।