En 1966, Khan sort de la PMA Kakul en tant que Lieutenant au de la régiment du Punjab. Il commanda un peloton lors de la troisième guerre avec l'Inde en 1971. Il a par la suite été qualifié d'un cfp après sa formation à l'école des officiers (CSC). Plus tard, Il suit une formation à l' , où il a obtenu une maîtrise en études de la Guerre. Dans les années 1980, le lieutenant-colonel Khan commande le avant de rejoindre l'administration du régime de  Muhammad zia-ul-haq.