Han ble født i Britisk India i 1924, som sønn av Muhammad Akhbar. Han meldte seg inn i den britiske British Indian Army og steg raskt i rang. Han kjempet mot Tyskland under andre verdenskrig og da Pakistan frigjorde seg ble han major i den nyetablerte pakistanske hæren. Fra 1967 til 1970 var han stasjonært i Jordan, hvor han trente opp nasjonale styrker, noe som viste seg viktig i forhold til å slå ned opprøret Sorte september i Jordan mot kong Hussein av Jordan i 1970.