Zia-ul-Haq diende tijdens de Tweede Wereldoorlog in het Britse leger en vocht tegen Japan. Na de onafhankelijkheid van Pakistan werd hij majoor in het nieuw geformeerde leger. Van 1962 tot 1964 volgde hij trainingen in de Verenigde Staten. Tijdens de Tweede Kasjmiroorlog in 1965 was hij tankcommandant. Van 1967 tot 1970 was Zia-ul-Haq gestationeerd in Jordanië en vocht in 1970 in Zwarte September tegen de PLO. In 1975 werd hij benoemd tot luitenant-generaal en een jaar later benoemde premier Zulfikar Ali Bhutto hem tot opperbevelhebber.