Jabarkan Al-Ittihadidul al-Islamiyyah (AII) dari Musthafa Husein al-Mandili

Pada tahun 1939, atas inisiatif dan anjuran Syekh Musthafa Husein dibentuk suatu organisasi Islam dan bersifat sosial dengan nama "Al-Ittihadidul al-Islamiyyah (AII)", yang merupakan perkumpulan bagi alumnus-alumnus pesantren Mushtafawiyah Purbabaru, dengan bertujuan untuk menyatukan pelajaran-pelajaran di semua sekolah agama dengan arti yang seluas-luasnya dan berpusat di Purba Baru Mandailing. Anggotanya terdiri dari murid-murid dan alumni Madrasah Musthafawiyah. Organisasi ini sangat cepat berkembang di daerah Mandailing, Angkola, Sipirok, Padang Lawas, dan seluruh wilayah Tapanuli Selatan.

Pada tahun 1940, diadakan kongres pertama di Purba Baru yang di hadiri 62 Cabang, dan diambil keputusan Pengurus Besar dipindahdakan dari Purba baru ke Padangsidimpuan. Organisasi "Al-Ittihadidul al-Islamiyyah (AII)" inilah yang menjadi dasar berdirinya Nahdlatul Ulama Sumatra Utara di Padangsidimpuan pada tahun 1947. Dalam perkembangannya ketika NU didirikan oleh tokoh-tokoh Musthafawiyah, al-Ittihadiyah digabungkan ke dalam NU.