fakih dibesarkan di gresik, hindia belanda.
ia belajar tentang islam dari ayahnya dan di sejumlah pesantren hingga tahun 1920-an.
pada tahun 1925 ia bergabung dengan muhammadiyah dan menjadi ketua untuk cabang surabaya pada tahun 1938; ia juga ikut serta dalam kancah politik setempat.
ketika sejumlah organisasi islam bekerja sama pada tahun 1940 untuk mendirikan majilis islam ala indonesia, fakih menjadi bendahara.
selama pendudukan jepang dan revolusi nasional indonesia, fakih terus bergerak dalam bidang tersebut.
sekaligus menjalani dua periode sebagai menteri agama republik indonesia, fakih menjadi lebih berpengaruh di muhammadiyah.
ia berjasa sebagai wakil ketua di bawah beberapa pemimpin sebelum dijadikan ketua umum muhammadiyah pada akhir tahun 1968, beberapa hari sebelum ia meninggal.
fakih dilahirkan di gresik, jawa timur, hindia belanda, pada 2 maret 1904.
ayahnya, usman iskandar, bekerja sebagai pedagang kayu, sementara ibunya adalah seorang ibu rumah tangga yang merupakan keturunan ulama.
bekerja di muhammadiyah
fakih mengikuti ayahnya menggeluti bidang perdagangan; pada saat yang sama ia juga belajar bahasa dan islam secara mandiri.selama periode 1932 sampai 1936 fakih menjadi anggota dewan daerah muhammadiyah, sekaligus menjadi redaktur majalah muhammadiyah bintang islam dan ketua majelis tarjih.
pada 21 september 1937, muhammadiyah, organisasi islam konservatif nahdatul ulama (nu), kooperasi pedagang sarekat islam, dan sejumlah organisasi islami lain  yang sudah lama bermusuhan  bergabung untuk membentuk sebuah payung organisasi bernama majelis islam a'la indonesia (miai), yang berpusat di surabaya.
setelah jepang menduduki hindia belanda pada awal tahun 1942, pada 9 maret 1942 gubernur jenderal tjarda van starkenborgh stachouwer dan ketua koninklijk nederlands-indische leger jenderal hein ter poorten menyerah.setelah serangan bom atom di hiroshima dan nagasaki dan proklamasi kemerdekaan indonesia pada bulan agustus 1945,di malang, fakih bergabung dengan masjkur dan zainul arifin untuk membentuk kelompok revolusi yang dibentuk dari kelompok sabilillah dan hizbullah, yang pernah dilatih jepang; fakih sendiri menjadi wakil pemimpin satuan tersebut.
setelah agresi militer belanda ii diluncurkan pada bulan desember 1948, fakih dan keluarganya melarikan diri ke surakarta; di kota itu fakih menjadi aktif dengan muhammadiyah lagi.
ia menjadi salah satu wakil ketua, di bawah bagus hadikusumo, dan harus pulang pergi kerja antara surakarta dan yogyakarta.
di bawah hasyim, fakih bertugas sebagai pemimpin bagian pendidikan agama.
sementara, masing-masing anggota masyumi berselisih pandang atas tujuan partai;fakih dijadikan menteri agama dalam kabinet wilopo.
ia dilantik pada 3 april 1952; setelah itu, ia dan keluarga berpindah ke ibu kota indonesia di jakarta.
setiba di sana, fakih mulai program reformasi dalam kementerian agama,
soekarno membubarkan masyumi pada 17 agustus 1960, setelah pemimpin masyumi seperti mohammad natsir dan sjafruddin prawiranegara terlibat dengan pemerintahan revolusioner republik indonesia (prri);dalam sebuah acara pendidikan kepemimpinan yang diadakan selama bulan ramadan 1961, fakih mulai membentuk suatu identitas kelembagaan melalui pidatonya "apakah muhammadiyah itu?", yang menggambarkan muhammadiyah sebagai organisasi yang berdasarkan dakwah, yang mengutamakan isu duniawi, dan hendak bekerja sama dengan pemerintah untuk menentukan masa depan yang lebih baik untuk kaum muslim.dari tahun 1962 hingga 1965 fakih menjadi wakil ketua i muhammadiyah di bawah ahmad badawi, sekaligus menjadi penasihat untuk para pemimpin agama muda.
setelah gagalnya gerakan 30 september, yang diikuti pembantaian ribuan orang komunis dan soekarno digantikan oleh soeharto sebagai presiden, fakih dan beberapa anggota muhammadiyah lainnya meminta izin untuk membentuk kembali masyumi; namun, izin ini tidak diberikan.dalam periode kedua ahmad badawi, fakih bertugas sebagai penasihat dan bertanggung jawab atas pengelolaan organisasi.
karena ia semakin sakit-sakitan, ketika ia terpilih sebagai ketua umum muhammadiyah pada kongres muhammadiyah ke-37 pada tahun 1968, fakih langsung mulai mencari penggantinya.
pada tahun 1930-an, orang-orang muslim konservatif tidak setuju dengan kegiatan fakih, sehingga ia diberi julukan "