Jabarkan Hijrah ke Indonesia dari Sholeh bin Muhsin al-Hamid Tanggul

Saat Habib Sholeh berusia 26 tahun atau ketika itu bertepatan dengan tahun 1921 M, ia memutuskan berhijrah ke Indonesia bersama Syekh Fadhli Sholeh Salim bin Ahmad al-Asykari. Perjalanan hijrah ini membuatnya sempat singgah di Gujarat, India, lalu berlabuh di Jakarta. Habib Sholeh sempat tinggal beberapa hari di Jakarta dan berkeliling mengunjungi para ulama sampai saudara sepupunya yang bernama Habib Muhsin bin Abdullah al-Hamid yang telah lebih dulu berhijrah meminta Habib Sholeh untuk mengunjungi kediamannya di Lumajang.

Selama di Lumajang, Habib Sholeh menggunakan waktunya untuk mempelajari bahasa dan budaya masyarakat setempat khususnya dalam berbahasa Jawa, Habib Sholeh juga kemudian menikah dengan warga Tempeh, Lumajang dan membangun rumah di sana. Habib Sholeh berdakwah keliling dari desa ke desa di Lumajang sampai 12 tahun lamanya sebelum akhirnya memutuskan pindah ke Tanggul.

Tidak ada yang mengetahui alasan pasti mengapa Habib Sholeh sampai membawa seluruh keluarganya pindah ke Tanggul, Jember, namun keluarganya meyakini bahwa keputusannya berasal dari petunjuk Allah. Sebelum akhirnya menjadi pendakwah di daerah baru tersebut, Habib Sholeh terlebih dahulu melaksanakan 'uzlah/khalwat atau aktivitas menyepi/mengurung diri dengan beribadah sampai lebih dari 3 tahun lamanya.

Adalah Habib Abu Bakar bin Muhammad as-Segaf, seorang ulama terkemuka yang berdomisili di Gresik yang kemudian memerintahkan Habib Sholeh untuk mengakhiri masa khalwat dan memintanya datang ke Gresik. Sesampainya di Gresik, Habib Abu Bakar memberikan Habib Sholeh mandat dan ijazah dengan memakaikan jubah imamah dan sorban hijau sebagai penanda status kewalian quthb yang diembannya, sekaligus meminta Habib Sholeh untuk segera menunaikan ibadah haji.

Sepulangnya dari berhaji, Habib Sholeh memulai aktivitas dakwahnya dengan mendirikan musala di kediamannya. Aktivitas pengajian juga mulai dilakukan biasanya selepas Ashar, mengkaji kitab khususnya kitab An-Nashaihud Dinniyah karya ulama Hadramaut Abdullah bin Alawi al-Haddad yang ia sampaikan dalam bahasa masyarakat sekitar yakni bahasa Madura. Habib Sholeh juga menghidupkan musala dengan pembacaan dzkiri dan wirid yang biasa diajarkan oleh kalangan ulama Hadramaut tempatnya berasal. Selain berdakwah, Habib Sholeh juga dikenal sebagai pedagang kain dan pakaian.

Beberapa tahun kemudian, Habib Sholeh mendapat hadiah sebidang tanah dari seorang pengusaha setempat bernama Haji Abdur Rasyid. Di atas tanah tersebut Habib Sholeh kemudian membangun masjid yang diberi nama Masjid Riyadus Shalihin dan kemudian mewakafkannya, letaknya tepat berada di sebelah selatan Stasiun Tanggul. Dakwah dan kegiatan keagamaan pun kian hidup setelah masjid ini berdiri.