মহাদেব সরকার নদীয়ার মামজোয়ানে জন্মগ্রহণ করেন। পিতা জ্ঞানেন্দ্রনাথ সরকার। কৃষ্ণনগর সি.এম.এস স্কুল থেকে ১৯২৪ সালে প্রথম শ্রেণীতে বৃত্তি সহ ম্যাট্রিক পাশ করেন। ১২ বছর বয়েসে গুপ্ত রাজনৈতিক দলে যোগ দিয়েছিলেন। ১৪ বছর বয়েসে বোমা তৈরি করার সময় বিস্ফোরণ ঘটে ডান হাতটি হারান এই বিপ্লবী। কৃষ্ণনগর সরকারি কলেজে পড়ার সময় বিপ্লবাত্মক কাজের জন্যে জেলে যেতে হয়। জেলবন্দী অবস্থায় অনার্সসহ বি.এ এবং আইন পাশ করেন। ১৯২৩ এ নদীয়া জেলা সমবায় ও দরিদ্র ভান্ডার তার প্রতিষ্ঠা। ১৯২৪/২৫ সাল নাগাদ দক্ষিণেশ্বর বোমা মামলায় দন্ডিত হন ও ২ বছর জেল খাটেন। ১৯২৭ সালে আবার দেড় বছর কারাবাস হয় ছাত্রনেতা হিসেবে রাজদ্রোহিতার অভিযোগে। ১৯২৯ খ্রিষ্টাব্দে সর্বভারতীয় বয়েজ স্কাউট আন্দোলনে নদীয়া জেলার প্রধান ছাত্রনেতা হয়েছিলেন। তিনিই প্রথম এই দলে ছাত্রপ্রতিভূ হিসেবে পূর্ন স্বাধীনতার দাবি তুলেছিলেন। ১৯৩০ সালে লবন সত্যাগ্রহে নেতৃত্ব দান ও চট্টগ্রাম অস্ত্রাগার লুন্ঠনের সাথে যুক্ত এই অভিযোগ আট বছর কারাদণ্ড হয়। ১৯৪২ এর ভারত ছাড়ো আন্দোলনেও যোগ দিয়েছিলেন।