১৯৮৪ সালের ১ জানুয়ারি প্রতিষ্ঠানটি "বাংলাদেশ রাইফেলস হাইস্কুল" হিসেবে যাত্রা শুরু করে। ৩ সেপ্টেম্বর, ১৯৯৪ সালে প্রতিষ্ঠানটি কলেজ পর্যন্ত উন্নীত হয় এবং এর নাম হয় "বাংলাদেশ রাইফেলস কলেজ" । ২০০৪ সালে প্রতিষ্ঠানটির নাম হয় "বীরশ্রেষ্ঠ মুন্সী আব্দুর রউফ রাইফেলস কলেজ" । মুন্সি আব্দুর রউফ (১৯৪৩ - এপ্রিল ৮, ১৯৭১) বাংলাদেশের স্বাধীনতা যুদ্ধে অংশগ্রহণকারী একজন শহীদ মুক্তিযোদ্ধা। যুদ্ধে অসামান্য বীরত্বের জন্য তাঁকে বীরশ্রেষ্ঠ উপাধিতে ভূষিত করা হয়। মুন্সী আব্দুর রউফ ইস্ট বেঙ্গল রেজিমেন্টের সেই দুইজন ল্যান্স নায়েকদের একজন যারা মুক্তিযুদ্ধে অসামান্য বীরত্ব প্রদর্শন করে শহীদ হওয়ায় বীরশ্রেষ্ঠ উপাধি পেয়েছিলেন। ২০০৯ এর পর "রাইফেলস" শব্দটি "পাবলিক" শব্দ দ্বারা প্রতিস্থাপিত হয়। ফলে কলেজের বর্তমান নাম বীরশ্রেষ্ঠ মুন্সী আব্দুর রউফ পাবলিক কলেজ।