বাংলাদেশের স্বাধীনতা লাভের পর ১৯৭২ সালের ১৭ জানুয়ারি তিনি দেশে ফিরে আসেন। ১৯৭২ সালের ফেব্রুয়ারি মাসে স্বাধীন বাংলাদেশের দরিদ্র, অসহায়, সবহারানো মানুষের ত্রাণ ও পুনর্বাসন কল্পে 'Bangladesh Rehabilitation Assistance Committee' বা সংক্ষেপে ব্র্যাক প্রতিষ্ঠা করেন। যুদ্ধের পর সিলেটের শাল্লায় ধ্বংসস্তূপের মধ্যে বসবাসরত লোকজনকে দেখতে গেলেন। সেখানে গিয়ে তিনি শাল্লায় উন্নয়ন কার্যক্রম শুরু করার সিদ্ধান্ত নেন।