Musharraf osallistui Intian vastaiseen sotaan 1965 tykistön 2. luutnanttina osana 1. panssaridivisioonaa. Toisessa sodassa 1971 hän palveli kommandokomppanian päällikkönä. Myöhemmin hän komensi tykistörykmenttejä, tykistöprikaatia ja 15. tammikuuta 1991 kenraalimajuriksi ylennettynä jalkaväkidivisioonaa.