Mas Mansoer
yaitu hanya mengurusi persoalan sekolah-sekolah Muhammadiyah, tetapi melupakan bidang tabligh (penyiaran agama Islam). Angkatan Muda Muhammadiyah saat itu berpendapat bahwa Pengurus Besar Muhammadiyah hanya dikuasai oleh tiga tokoh tua, yaitu KH. Hisjam (Ketua Pengurus Besar), KH. Moechtar (Wakil Ketua), dan KH. Sjuja' sebagai Ketua Majelis PKO (Pertolongan Kesedjahteraan Oemoem).
Situasi bertambah kritis ketika dalam Kongres Muhammadiyah ke-26 di Jogjakarta pada tahun 1937, ranting-ranting Muhammadiyah lebih banyak memberikan suara kepada tiga tokoh tua tersebut. Kelompok muda di lingkungan Muhammadiyah semakin kecewa. Namun setelah terjadi dialog, ketiga tokoh tersebut ikhlas mengundurkan diri.
Setelah mereka mundur lewat musyawarah, Ki Bagoes Hadikoesoemo diusulkan untuk menjadi Ketua Pengurus Besar Muhammadiyah, namun ia yang menolak. Kiai Hadjid juga menolak ketika ia dihubungi untuk menjadi Ketua Pengurus Besar Muhammadiyah. Perhatian pun diarahkan kepada Mas Mansoer (Konsul Muhammadiyah Daerah Surabaya). Pada mulanya Mas Mansoer menolak, tetapi setelah melalui dialog panjang ia bersedia menjadi Ketua Pengurus Besar Muhammadiyah.
Pergeseran kepemimpinan dari kelompok tua kepada kelompok muda dalam Pengurus Besar Muhammadiyah tersebut menunjukkan bahwa Muhammadiyah saat itu sangat akomodatif dan demokratis terhadap aspirasi kalangan muda yang progresif demi kemajuan Muhammadiyah, bukan demi kepentingan perseorangan. Bahkan Pengurus Besar Muhammadiyah pada periode Mas Mansoer juga banyak didominasi oleh angkatan muda Muhammadiyah yang cerdas, tangkas, dan progresif.
Terpilihnya Mas Mansoer sebagai Ketua Pengurus Besar Muhammadiyah meniscayakannya untuk pindah ke Jogjkarta bersama keluarganya. Untuk menopang kehidupannya, Muhammadiyah tidak memberikan gaji, melainkan ia diberi tugas sebagai guru di Madrasah Mu'allimin Muhammadiyah Yogyakarta, sehingga ia mendapatkan penghasilan dari sekolah tersebut. Sebagai Ketua Pengurus Besar Muhammadiyah, Mas
Mansoer juga bertindak disiplin dalam berorganisasi. Sidang-sidang Pengurus Besar Muhammadiyah selalu diadakan tepat pada waktunya. Demikian juga dengan para tamu Muhammadiyah dari daerah-daerah. Berbeda dari Pengurus Besar Muhammadiyah sebelumnya yang seringkali menyelesaikan persoalan Muhammadiyah di rumahnya masing-masing, Mas Mansoer selalu menekankan bahwa kebiasaan seperti itu
tidak baik bagi disiplin organisasi, karena Pengurus Besar Muhammadiyah telah memiliki kantor sendiri beserta segenap karyawan dan perlengkapannya. Namun ia tetap bersedia untuk menerima silaturrahmi para tamu Muhammadiyah dari daerah-daerah itu di rumahnya untuk urusan yang tidak berkaitan dengan Muhammadiyah.
Kepemimpinannya ditandai dengan kebijaksanaan baru yang disebut Langkah Muhammadiyah 1938-1949. Ada duabelas langkah yang dicanangkannya. Selain itu, Mas Mansoer juga banyak membuat gebrakan dalam hukum Islam dan politik ummat Islam saat itu. Yang perlu untuk pula dicatat, Mas Mansoer tidak ragu mengambil kesimpulan tentang hukum bank, yakni haram, tetapi diperkenankan, dimudahkan, dan
dimaafkan, selama keadaan memaksa untuk itu. Ia berpendapat bahwa secara hukum bunga bank adalah haram, tetapi ia melihat bahwa perekonomian ummat Islam dalam kondisi yang sangat memprihatinkan, sedangkan ekonomi perbankan saat itu sudah menjadi suatu sistem yang kuat di masyarakat. Oleh karena itu, jika ummat Islam tidak memanfaatkan dunia perbankan untuk
sementara waktu, maka kondisi perekonomian ummat Islam akan semakin turun secara drastis. Dengan demikian, dalam kondisi keterpaksaan tersebut dibolehkan untuk memanfaatkan perbankan guna memperbaiki kondisi perekonomian ummat Islam.
Dalam perpolitikan ummat Islam saat itu, Mas Mansoer juga banyak melakukan gebrakan. Sebelum menjadi Ketua Pengurus Besar Muhammadiyah, Mas Mansoer sebenarnya sudah banyak terlibat dalam berbagai aktivitas politik ummat Islam. Setelah menjadi Ketua Pengurus Besar Muhammadiyah, ia pun mulai melakukan gebrakan politik yang cukup berhasil bagi ummat Islam dengan memprakarsai berdirinya Majelis Islam A'la Indonesia (MIAI)
bersama Hasyim Asy'ari dan Wahab Hasboellah yang keduanya dari Nahdlatul Ulama (NU). Ia juga memprakarsai berdirinya Partai Islam Indonesia (PII) bersama Dr. Sukiman Wiryasanjaya sebagai perimbangan atas sikap non-kooperatif dari Partai Syarikat Islam Indonesia (PSII). Demikian juga ketika Jepang berkuasa di Indonesia, Mas Mansoer termasuk dalam empat orang tokoh nasional yang sangat diperhitungkan, yang terkenal dengan empat serangkai, yaitu Soekarno, Mohammad Hatta, Ki Hadjar Dewantara, dan Mas Mansur.
Keterlibatannya dalam empat serangkai mengharuskannya pindah ke Jakarta, sehingga Ketua Pengurus Besar Muhammadiyah diserahkan kepada Ki Bagoes Hadikoesoemo. Namun kekejaman pemerintah Jepang yang luar biasa terhadap rakyat Indonesia menyebabkannya tidak tahan dalam empat serangkai tersebut, sehingga ia memutuskan untuk kembali ke Surabaya, dan kedudukannya dalam empat serangkai digantikan oleh Ki Bagoes Hadikoesoemo.
Ketika pecah perang kemerdekaan, Mas Mansoer belum sembuh benar dari sakitnya. Namun ia tetap ikut berjuang memberikan semangat kepada barisan pemuda untuk melawan kedatangan tentara Belanda (NICA). Akhirnya ia ditangkap oleh tentara NICA dan dipenjarakan di Kalisosok. Di tengah pecahnya perang kemerdekaan yang berkecamuk itulah, Mas Mansur meninggal di tahanan pada tanggal 25 April 1946. Jenazahnya dimakamkan di Gipo Surabaya.
Atas jasa-jasanya, oleh Pemerintah Republik Indonesia ia diangkat sebagai Pahlawan Nasional bersama teman seperjuangannya, yaitu KH. Fakhruddin.