Jabarkan Pindah ke Madinah dari Zain bin Smith

Setelah 21 tahun tinggal di kota al-Baidha', ia pindah ke Madinah, kemudian ia dipanggil untuk membuka Rubath Abdurrahman bin Hasan al-Jufri di Madinah, kemudian diselesaikan pembangunan tempat tersebut sejak Ramadhan tahun 1406 H. Ia dan Salim asy-Syathiri bertanggungjawab atas jalannya Rubath al-Jufri selama 12 tahun, kemudian Salim pindah ke kota Tarim untuk mengurus Rubath Tarim setelah dibuka ulang, dan menetaplah Zain untuk mengajar dan mengarahkan para murid di rubath Madinah, di mana rubath tersebut didatangi banyak murid dari berbagai negara, sebagaimana ia telah menuntut ilmu dari banyak ulama yang tinggal di Madinah. Ia mempelajari ilmu ushul fiqh dari al-Ushuli al-Faqih Syaikh Zaidan asy-Syinqithi al-Maliki, dan mempelajari kitab at-Tiryaq an-Nafi' 'ala Masa'ili Jam'il Jawami karya Abu Bakr bin Syihab dan juga nazham Maraqi as-Su'ud karya Abdullah al-'Alawi asy-Syinqithi. yang merupakan mutun tertinggi dalam ilmu ushul fiqih. Ia mempelajari langsung di halaqah khusus yang ada di Masjid Nabawi, hingga wafatnya Syaikh Zaidan dalam keadaan sujud, Dan juga ia mempelajari ilmu bahasa dan ushuluddin dari Ahmad bin Muhammad Hamid asy-Syinqithi, termasuk mempelajari Syarh Qathru an-Nada, sebagian Syarh Alfiyah Ibnu Malik karya Ibnu Aqil, Idha'atu ad-Dajnah karya al-Imam al-Muqri dalam bidang akidah, as-Sulam al-Murunq karya al-Imam al-Akhdari, dan Itmam ad-Dariyah li Qurra'i an-Niqayah karya as-Suyuthi, Al-Maqshur wa al-Mamdud dan Lamiyatu al-Af'al karya Ibnu Malik, jilid pertama dari Mughni al-Labib karya Ibnu Hisyam, dan dua kitab dalam ilmu sharaf serta al-Jauharu al-Maknun dalam ilmu Balaghah.