Musharraf pernah menduduki sejumlah jabatan penting sebagai staf dan pengajar dalam kariernya. Ia pun pernah menjadi "Direktur Jenderal Operasi Militer" di Markas Besar pada periode 1993-1995. Pangkat naik menjadi jenderal dan ditunjuk menjadi pada 7 Oktober 1998 ketika Kepala Staf Jenderal Jehangir Karamat dipaksa mengundurkan diri karena menuntut agar militer diberikan tempat di Dewan Keamanan Nasional Pakistan. Ia mendapat sebuah jabatan lain sebagai "Ketua Komite Gabungan Angkatan Bersenjata" pada 9 April 1999. Ia memimpin angkatan bersenjata Pakistan dalam Perang Kargil antara India dan Pakistan pada Mei hingga Juli 1999. Pada 15 September 2004, Musharraf mengundurkan diri dari jabatannya sebagai Kepala Staf Angkatan Darat.