Gul studeerde korte tijd in Lahore voordat hij zijn studie vervolgde aan de Pakistaanse Militaire Academie in Kakul. Na zijn afstuderen trad hij in dienst van het Pakistaanse leger. Tijdens de Tweede Kasjmiroorlog met India in 1965 gaf hij leiding aan een eigen eskadron. In de loop van de jaren klom hij gestaag op in de rangen. Zo diende hij van 1972 rechtstreeks als bataljonscommandant onder generaal Mohammed Zia-ul-Haq.