১৯৫৩-৬৩ সময়কালে মাজহারুল ইসলাম প্রধান স্থপতির দপ্তরে কর্মরত ছিলেন – ১৯৬৪-তে সরকারি চাকরিতে ইস্তফা দিয়ে ‘বাস্ত্তকলাবিদ’ নামে উপদেষ্টা প্রতিষ্ঠান স্থাপন করেন। সরকারি স্থপতি হিসেবে তিনি ঢাকা আর্ট কলেজ, ঢাকা বিশ্ববিদ্যালয় লাইব্রেরি, সায়েন্স ল্যাবরেটরি ঢাকা, আজিমপুর এস্টেটে ডুপেস্নক্স ও সিমপেস্ন­ক্স অ্যাপার্টমেন্ট, ঢাকা স্টেডিয়াম, খিলগাঁও পুনর্বাসন এলাকা এবং রাঙামাটি শহরের মহাপরিকল্পনাসহ ছোটখাটো আরো প্রকল্পের স্থপতির দায়িত্ব পালন করেন। বিশেষ করে আর্ট কলেজ ও লাইব্রেরি ভবনের অনুপম স্থাপত্যের জন্য মাজহারুল ইসলামকে এদেশে আধুনিক স্থাপত্যধারার পথিকৃৎ গণ্য করা হয়। তিনি ১৯৬৭-৬৮-তে IAP-এর সভাপতির পদ অলংকৃত করেন। ১৯৭২-এ ইনস্টিটিউট অব আর্কিটেক্ট বাংলাদেশ (IAB) প্রতিষ্ঠায় মুখ্য ভূমিকাসহ প্রথম সভাপতির দায়িত্ব পালন করেন। ১৯৯৯ সালে বাংলাদেশের স্বাধীনতা পদকে ভূষিত হন।