১৯৬৩ সালের মে মাসে পরমশিব জেনারেল পদে ইস্টার্ন কমান্ডের অধিনায়ক হিসেবে নিয়োগ পান। ১৯৬৪ সালের নভেম্বরে তিনি সেনাবাহিনীর ডেপুটি প্রধান হন এবং ১৯৬৫ সালের ১৫ই জানুয়ারি তিনি সেনাবাহিনীর ভাইস প্রধান হন। ৮ জুন ১৯৬৬ সালে, জেনারেল কুমারমঙ্গল সেনাবাহিনীর প্রধান হিসেবে, সম্মানজনক পদে প্রথম ভারতীয় গোলন্দাজ অফিসার এবং প্যারাট্রপারের দায়িত্ব নেন। সেনাপ্রধান হিসেবে তার মেয়াদ অকীর্তিত হলেও পুনর্গঠন সেবা, অস্ত্রশস্ত্রের আধুনিকীকরণ, প্রশিক্ষণ এবং কৌশলপদ্ধতি যা তিনি ১৯৬৫-এর যুদ্ধ থেকে অর্জন করেছেন তা ছিল পরিশ্রান্তকর। ৭ জুন, ১৯৬৯ সালে অবসর গ্রহণের আগমুহূর্ত পর্যন্ত তিনি টানা ৩৬ বছর ভারতীয় সেনাবাহিনীতে কর্মরত ছিলেন। ১৯৭০ সালে তিনি পদ্মবিভূষণ পদকে ভূষিত হন।