Po podziale Indii Brytyjskich w 1947 wstąpił do sił zbrojnych Pakistanu. W latach 1963–1964 odbył szkolenie w Stanach Zjednoczonych. Uczestniczył w walkach indyjsko-pakistańskich w 1965 i 1971. W latach 1967–1970 kierował pakistańską misją wojskową w Jordanii, w okresie służby w tym kraju brał udział w tłumieniu powstania Czarnego Września. W 1969 awansował na stopień generała brygadiera, a w 1972 – generała majora. Prezydent Zulfikar Ali Bhutto mianował go przewodniczącym trybunału wojskowego, który wszczął śledztwo przeciwko 59 oficerom oskarżonym o przygotowywanie spisku przeciwko Bhutto. W 1975 Zia został generałem porucznikiem.