Tahun 1931, Muchtar kembali ke Sumatera Barat dan bergabung dengan Persatuan Muslimin Indonesia (Permi). Di partai tersebut, ia diangkat sebagai Ketua Dewan Propaganda Permi. Ia juga menaruh minat terhadap pendidikan, dan mendirikan sekolah wanita Normal School. Akibat aktifitas politiknya yang radikal, pada tahun 1932 pemerintah Belanda menangkapnya dan dua tahun kemudian ia dibuang ke Boven Digoel bersama Jalaluddin Thaib dan Ilyas Ya'kub. Ia baru dibebaskan setelah Jepang berhasil menduduki Indonesia pada tahun 1942. Oleh Belanda ia dibebaskan ke Makassar dan diangkat sebagai anggota Konstituante Negara Indonesia Timur. Setelah itu ia berbalik arah dan mendukung Republik Indonesia. Tidak lama kemudian Muchtar diangkat sebagai ketua Partai Masyumi cabang Sulawesi.