যুদ্ধের পর খালেদ মোশাররফ ঢাকা সেনা সদর দপ্তরে স্টাফ অফিসার হিসেবে নিয়োগ লাভ করেন। পরে তিনি বাংলাদেশ সেনাবাহিনীর চীফ অব জেনারেল স্টাফ হিসেবে নিয়োগ লাভ করেন। মুক্তিযুদ্ধে বীরত্বপূর্ণ ভূমিকা পালনের জন্য বাংলাদেশ সরকার ১৯৭২ সালে খালেদ মোশাররফকে বীর উত্তম উপাধিতে ভূষিত করে। বঙ্গবন্ধু শেখ মুজিবুর রহমানের সপরিবারে নিহত হবার পর ৩ নভেম্বর, ১৯৭৫ সালে একটি সামরিক অভ্যুত্থানের নেতৃত্ব দেন। ঐ সময় তিনি সেনাপ্রধান মেজর জেনারেল জিয়াউর রহমানকে গৃহবন্দি করেন এবং নিজেকে মেজর জেনারেল পদে উন্নীত করে সেনাপ্রধান হন । ঠিক তিন দিন পর ৭ নভেম্বর আরেকটি পাল্টা অভ্যুত্থানে তিনি নিহত হন।