Jabarkan Pendidikan dari Alwi bin Thahir al-Haddad dalam bahasa melayu

Habib ʻAlwi mempunyai impian masa kecil untuk menjadi Ulama'. Ini dibuktikan dengan kepintaran dan kesungguhan dalam pelajarannya. Beliau suka mendekati ramai golongan Ulama' pada masa mudanya. Beberapa gurunya di Hadramaut ialah Habib Ahmad bin al-Hasan al-Attas al-Alawi, Habib Thahir bin Umar al-Haddad, Habib Muhammad bin Thahir al-Haddad, al-Mu'ammar Sirajuddin Umar bin Othman bin Muhammad Ba-Othman al-'Amudi al-Shiddiqi al-Bakri. Beliau mempelajari Hadis dari Sayyid 'Abdur Rahman bin Sulaiman al-Ahdal. Beliau juga belajar dengan ahli keluarganya, seperti bapa saudaranya Habib Abdullah bin Tāha al-Ḥaddād, dan juga kepada Habib Ṭāhir bin Abi Bakri al-Ḥaddād.

Habib ʻAlwi selesai membaca Ihya Ulum ad-Din karya Imam al-Ghazali ketika beliau masih berusia 12 tahun. Pada usia 17 tahun, beliau telah mula mengajar, dan mula mengajar menggunakan buku-buku aras tinggi ketika baru berusia 20 tahun. Bidang-bidang pengajarannya termasuklah Tafsir, Hadis, Fiqh, Usul al-fiqh, Sejarah, Astronomi, Nahu, Saraf, Balaghah, Falsafah dan Tasawwuf.

Habib ʻAlwi juga terkenal sebagai sarjana dalam sejarah Alawiyyin.