এম এ রশীদের জন্ম হবিগঞ্জ জেলায় । তিনি ১৯৩৬ সালে কৃতীত্বের সাথে হবিগঞ্জ উচ্চ বিদ্যালয় থেকে মেট্রিক, ১৯৩৮ সালে এমসি কলেজ থেকে আইএসসি এবং পরবর্তীতে ১৯৪২ সালে শিববুর বেঙ্গল ইঞ্জিনিয়ারিং কলেজ থেকে সিভিল ইঞ্জিনিয়ারিং-এ স্নাতক সম্পন্ন করেন। পরবর্তীতে ১৯৪৫ সালের বৃত্তি নিয়ে যুক্তরাষ্ট্রে কার্নেগি ইন্সটিটিউট অব টেকনোলজি অ্যাট পেনাসলভেনিয়া থেকে এমএস এবং ডিএসসি ডিগ্রি অর্জন করেন।