成为印度陆军高级军官的他始终致力巴基斯坦脱离英属印度独立，并且巴基斯坦建国后的1958年至1969年间统治巴基斯坦。因为他对邻国印度的强硬作风，让他颇受巴基斯坦国内人民的拥戴，不过也因与印度的交恶，在他任内，南亚始终呈现紧张的态势。1965年，第二次印巴战争爆发。1962年中印边界战争后，他促使巴基斯坦加强和中国的关系，成为中国在当时少数的坚定盟友。1969年，被政变推翻；3月25日陆军总司令叶海亚·汗接替阿尤布·汗任军法首席执行官，3月31日就任总统。