Muchtar Lutfi adalah seorang Minangkabau. Ayahnya bernama H. Abdul Latief Rasyidi, seorang ulama yang pernah memimpin surau Jembatan Besi Padang Panjang. Pada tahun 1908, Muchtar dimasukkan ke sekolah nagari tiga tahun di Balingka, sebelum diserahkan kepada Syekh Abdul Karim Amrullah untuk memperdalam ilmu agama. Pada tahun 1911, Abdul Karim Amrullah pindah ke Padang Panjang untuk mengajar di surau Jembatan Besi, dan ia pun dibawanya serta. Di surau Jembatan Besi, ia mengembangkan bakatnya dalam berpidato dan berdebat dalam masalah agama. Kemampuannya itu telah menimbulkan kepercayaan Zainuddin Labay el Yunusi, pendiri dan pemimpin Diniyah School Padang Panjang, untuk mengangkatnya sebagai pemimpin Diniyah School cabang Sibolga. Sekembalinya dari Sibolga, Muchtar dianggkat menjadi guru di Sekolah Raja dan OSVIA.