mohamed hashim lahir dari pasangan mohamad ali bin taib dan siti khatijah binti ahmad.
keluarganya merupakan perantau dari koto rajo, rao, pasaman, sumatera barat.
ia mendapat pendikan awal di sekolah kebangsaan kampung pandan, kuala lumpur.
kemudian ia melanjutkan pendidikannya di institut victoria, kuala lumpur (1948-1953).
pada masa ini ia menjadi ketua tim hoki dan juga menjadi wakil sekolah dalam acara renang.
hashim memulai kariernya di kemiliteran sebagai kadet di royal military academy, sandhurst pada tahun 1954 hingga 1956.
pada bulan desember 1956, ia diangkat sebagai pegawai muda dalam resimen askar melayu diraja dan bertugas pada batalion ketiga.
ia juga pernah menjadi pegawai pemerintah batalion kelima ketika bertugas di sarawak.
setelah dilantik sebagai brigadir jenderal, ia diangkat menjadi pegawai pemerintah rejang area security command atau rascom di sarawak.
disana ia berhasil membantu mengembalikan kedamaian dan keamanan serta kestabilan kawasan tersebut.
pada tahun 1980, sehabis menghadiri kursus national defence college di india, ia dilantik sebagai ketua staf di kementerian pertahanan malaysia berpangkat mayor jenderal.
dua tahun kemudian, ia mengambil alih tampuk pemerintahan divisi kedua infantri yang berpangkalan di pulau pinang.
dalam melaksanakan tugas sebagai pegawai pemerintah divisi tersebut, ia menjalinkan hubungan dengan ketua pemerintah region 4, royal thai army.
dari hasil hubungan tersebut, kedua pihak telah mampu melumpuhkan upaya yang dilakukan oleh kaum komunis untuk melakukan pemberontakan bersenjata.
setelah itu ia menandatangani perjanjian haadyai dengan partai komunis malaya.
"executive profile; mohamed hashim bin mohd ali (rtd)" bloomberg businessweek.
setelah melepaskan jabatan di divisi kedua, ia dilantik menjadi wakil panglima tentara darat.
pada bulan november 1985, ia dilantik menjadi panglima tentara darat malaysia (tdm) yang ke-10 dan bertugas sampai 5 oktober 1987, selanjutnya sejak 6 oktober 1987 hingga 10 april 1992 ia menjabat sebagai panglima angkatan tentera malaysia (atm) yang ke-7 menggantikan jenderal tan sri dato' mohd ghazali bin haji che mat. pada bulan april 1992, setelah berkarier selama 38 tahun 9 bulan, ia pensiun dari dunia kemiliteran.
setelah pensiun sebagai tentara, ia menjadi pengurus di banyak perusahaan malaysia yang terdaftar di bursa efek malaysia.
pada tahun 1992 ia ditunjuk sebagai chairman perwira niaga malaysia (pernama), kemudian sebagai chairman national aerospace &
defence industries sdn.bhd.
hashim juga menjabat sebagai ketua eksekutif dan pengurus sukom ninety eight bhd, perusahaan yang didirikan pemerintah untuk menyelenggarakan pesta olahraga persemakmuran ke-16 di kuala lumpur yang diadakan pada tanggal 11-21 september 1998.
putra-putri mohamad ali bin taib keseluruhannya menjadi orang sukses.
selain hashim yang memiliki karier cemerlang, abangnya tun ismail mohamad ali adalah mantan gubernur bank negara malaysia dan tokoh pembangunan ekonomi kaum bumiputera.
kakaknya tun dr siti hasmah mohamad ali merupakan ahli kesehatan dan pernah menjadi ibu negara pada saat suaminya mahathir mohamad menjabat sebagai perdana menteri malaysia ke-4.
sedangkan adiknya ahmad razali mohamad ali pernah menjabat sebagai menteri besar selangor.