Akhtar Abdur Rahman est promu au rang de capitaine lors de la partition des Indes puis devient instructeur au "Artillery School Nowshehra", avant de poursuivre sa formation personnelle au Royaume-Uni. De retour au Pakistan, il est promu au rang de major et sert au Pakistan oriental en 1954 avant de rejoindre le quartier-général de l'armée à Rawalpindi. Lors de la Deuxième guerre indo-pakistanaise de 1965, il sert sur le front en tant que commandant-en-second, puis est promu an rang de Lieutenant général. Il est ensuite posté à Bagh, dans la région stratégique du Cachemire. Lors de la Troisième guerre indo-pakistanaise, il joue un rôle de premier plan lors du début des hostilités.