Jabarkan Ke Makkah, pertama dari Hasan Ma'shum

Berkat kesungguhan dan kecerdasan dalam menuntut ilmu sehingga beliau mendapat pengakuan dari gurunya, beliau direkomendasikan agar dimasukkan ke sekolah terbaik. Kecintaannya terhadap ilmu agama semakin tampak jelas ketika beliau mendapatkan pilihan dari orang tuanya untuk melanjutkan pendidikan ke Singapura atau ke Makkah. Mr. Henry sebagai guru sekolah menganjurkan Hasan melanjutkan studi ke Singapura, tetapi Hasan memutuskan untuk melanjutkan studi agama ke Makkah dengan pertimbangan bahwa Sumatra Timur masih membutuhkan ulama. Sebagai pelajar, Hasan telah mampu menemukan bakatnya dan memberikan pilihan tepat tentang masa depannya. Hasan benar-benar mewarisi bakat dari sang ayah yang bernama Syekh Muhammad Ma'sum  Sejak kecil Hasan telah menampakkan sifat zuhud dan ilmuwan, meskipun berasal dari keluarga hartawan. Syekh Muhammad Ma'sum telah menunjukkan tanggungjawab sebagai orang tua dengan memberikan pendidikan terbaik bagi Hasan.

Pada tahun 1894, dalam usia 10 tahun Hasan Ma'shum dibawa ke Makkah oleh orang tuanya, pergi ke Tanah Suci untuk menunaikan ibadah haji, dengan mengikuti rombongan Jamaah Haji yang akan berangkat ke tanah suci. dan tinggal menetap selama 9 tahun mempelajari ilmu agama. Ketika sang ayah pulang kembali ke negaranya di Kesultanan Deli, sang anak tetap tinggal di Makkah untuk bermujawarah dan belajar di sana.

Karena berangkatnya bersamaan dengan rombongan jamaah haji sudah tentu ramai orang yang mengantarkan di pelabuhan Belawan, hingga sampai ke Titi Papan. Riuh rendah suara tangis dan lantunan suara azan mengiringi kepergian Hasan Ma'shum dalam menuntut ilmu ke tanah suci. Perjalanan yang begitu melelahkan itu dilalui walau harus mengorbankan nyawa sebagai taruhannya dalam mengarungi gelombang sebesar gunung di samudra yang luas. Tentu saja disadari bahwa Makkah lebih jauh dari Singapura dan tantangan dari kedua negara sangat berbeda, tetapi Hasan tetap memiliki keteguhan diri, dan minat untuk mendalami ilmu-ilmu agama sangat tinggi, padahal perjalanan dari Labuhan (Sumatra Timur) menuju Makkah via kapal laut saat itu membutuhkan waktu selama tiga bulan dan paling cepat 75 hari. Hasan memiliki keyakinan tinggi terhadap kewajiban mengkaji agama Islam, dan meskipun kedua orang tuanya sangat kaya tidak membuatnya berubah pikiran, sebab Islam telah mengajarkan bahwa ilmu lebih mulia daripada harta.

Awalnya, Hasan Ma'shum belajar kepada guru agama yang bernama 'Abdus Salam yang berasal dari negeri Kampar. Setelah mendapat bekal ilmu dan kepandaian dasar-dasar agama dari sini, seperti bahasa arab dan lain-lain, kemudian belajar lagi kepada Ulama-ulama yang terknal yaitu Tuan Syekh Ahmad Khayyat; dan kepada almarhum Tuan Ahmad Khatib seorang ulama yang masyhur dan menjadi imam dan khatib pada mazhab Syafii di Makkah. Syekh Hasan Ma'shum belajar fikih kepada kepada Syekh Ahmad Khatib al-Minangkabawi dan Syekh ‘Abdul Qadir al-Mandili yang merupakan murid Syekh Sayyid Bakri Syatha’, sedangkan Syekh Ahmad Khatib juga belajar kepada Syekh Sayyid Ahmad Zaini Dahlân (w. 1886). Dari keduanya, sanad keilmuan Syekh Hasan menyambung sampai kepada Imam al-Bukhârî yang menyusun kitab Shahih Bukhari, dan Abû al-Hasan al-Ash‘arî dan Abû al-Mansûr al-Mâturidî sebagai dua ulama pendiri teologi Ahl al-Sunnah wa al-Jamâ‘ah. Kepada ulama lainpun Hasan Ma'shum sempat juga belajar, seperti kepada Tuan Syekh Amin Ridhwan di Madinah, seorang ulama asal negeri Makkah.

Sembilan tahun dalam menuntut ilmu bukan merupakan waktu yang sebentar, tidak hanya sekadar kenyang dengan ilmu pengetahuan beliau juga memiliki kenalan yang luas selama menuntut ilmu di Makkah. Banyak pelajar-pelajar yang datang menuntut ilmu bersamanya baik dari Sumatra maupun Jawa, di antara mereka adalah ulama-ulama masyhur di tanah air, sebagian mereka adalah: (1) Abdul Karim; (2) Abdul Majid; (3) Musthafa Husein Purba Baru; (4) Abdul Qadir al-Mandili; dan (5) Muhammad Dahlan, yang ketika itu juga terhitung sebagai seorang ulama di Makkah. Banyak perubahan yang terjadi baik di tanah suci maupun di tanah air dalam masa itu, beberapa kali keluarganya meminta agar Hasan Ma'shum kembali ke tanah air, apalagi setelah ibu kandungnya meninggal dunia tanpa kehadirannya.

Dengan berat hati akhirnya pada tahun 1903 Hasan Ma'shum terpaksa meninggalkan tanah suci untuk kembali ke tanah air. Setelah sembilan tahun di Makkah, Hasan Ma'shum kembali pulang ke Sumatra, ke rumah orangtuanya di Labuhan Deli, bersama rombongan jamaah haji melalui Singapura, lalu ke Labuhan (Medan). Tetapi 6 bulan sesudahnya, yakni setelah 6 bulan di Labuhan Deli, kembali lagi ke Makkah karena belum merasa puas dengan ilmu yang didapatnya selama 9 tahun.