তাজউদ্দীন আহমদ প্রথমে আত্মরক্ষা তারপর প্রস্তুতি এবং সর্বশেষে পাল্টা আক্রমণ এই নীতিকে সাংগঠনিক পথে পরিচালনার জন্য তিনি সরকার গঠনের চিন্তা করতে থাকেন। তাই তাজউদ্দীন আহমদ আত্মগোপন করেন এবং যুদ্ধকে সংগঠিত করার জন্য সীমান্তের দিকে যাত্রা করেন। 
এরই মধ্যে ৩০ মার্চ সন্ধ্যায় তিনি ফরিদপুর কুষ্টিয়া পথে পশ্চিম বাংলার সীমান্তে পৌঁছান। ব্যারিস্টার আমীর-উল ইসলামকে সঙ্গে নিয়ে ৩১ মার্চ মেহেরপুর সীমান্ত অতিক্রম করে ভারতে পদার্পণ করেন। সীমান্ত অতিক্রম করার বিষয়ে মেহেরপুরের মহকুমা শাসক তৌফিক-ই-এলাহী চৌধুরী তাদের সার্বিক সহায়তা প্রদান করেন। সীমান্ত অতিক্রম করার পর ভারতীয় সীমান্ত রক্ষী বাহিনীর মহাপরিদর্শক গোলক মজুমদার তাজউদ্দীন আহমদ ও ব্যারিস্টার আমীর-উল ইসলামকে যথোপযুক্ত সম্মান প্রদর্শনপূর্বক তাদের নিরাপদ আশ্রয়ের ব্যবস্থা করেন। গোলক মজুমদারের কাছে সংবাদ পেয়ে ভারতীয় সীমান্ত রক্ষী বাহিনীর মহাপরিচালক কেএফ রুস্তামজী তাদের আশ্রয়স্থলে এবং তাজউদ্দিন আহমদের সঙ্গে আলাপ আলোচনা করেন এবং পূর্ববাংলা সার্বিক পরিস্থিতি এবং বাঙালির স্বাধীনতা লাভের অদম্য স্পৃহা সম্পর্কে সম্যক অবগত হন। সীমান্তে পৌঁছে তাজউদ্দিন দেখেন যে বেঙ্গল রেজিমেন্টের বিদ্রোহী সেনাদের সমর্থনে ভারত সরকার থেকে নির্দেশ না পাওয়া পর্যন্ত ভারতীয় সামরিক বাহিনী এবং সীমান্তরক্ষী বাহিনীর কিছুই করার নেই। মুক্তিফৌজ গঠনের ব্যাপারে তাজউদ্দীন আহমদ বিএসএফ এর সাহায্য চাইলে তৎকালীন বিএসএফ প্রধান তাকে বলেন যে মুক্তি সেনা ট্রেনিং এবং অস্ত্র প্রদান সময় সাপেক্ষ কাজ। তিনি আরো বলেন যে ট্রেনিং বিষয়ে তখন পর্যন্ত ভারত সরকারের কোন নির্দেশ না থাকায় তিনি মুক্তিবাহিনীকে ট্রেনিং ও অস্ত্র দিতে পারবেন না। কেএফ রুস্তামজী দিল্লির ঊর্ধ্বতন সাথে যোগাযোগ করলে তাকে জানানো হয় তাজউদ্দীন আহমদ ও ব্যারিস্টার আমীর-উল ইসলামকে নিয়ে দিল্লি চলে আসার জন্য। উদ্দেশ্য ভারতীয় প্রধানমন্ত্রী ইন্দিরা গান্ধী এবং তাজউদ্দিন আহমদের বৈঠক। দিল্লিতে যাবার পর ভারত সরকার বিভিন্ন সূত্র থেকে নিশ্চিত হন যে, তাজউদ্দীন আহমদ বঙ্গবন্ধু শেখ মুজিবুর রহমানের ঘনিষ্ঠতম সহকর্মী। ভারতীয় প্রধানমন্ত্রী ইন্দিরা গান্ধীর সঙ্গে বৈঠকের আগে ভারত সরকারের উচ্চপদস্থ কর্মকর্তাদের সঙ্গে তাজউদ্দিন আহমদের কয়েক দফা বৈঠক হয় এবং তিনি তাদের বাঙালির মুক্তি সংগ্রাম পরিচালনার জন্য যেসব সাহায্য ও সহযোগিতার প্রয়োজন তা বুঝিয়ে বলেন। এসময় তিনি উপলব্ধি করেন যে আওয়ামী লীগের একজন নেতা হিসেবে তিনি যদি সাক্ষাৎ করেন তবে সামান্য সহানুভূতি ও সমবেদনা ছাড়া তেমন কিছু আশা করা যায় না। সরকার গঠন ও মুক্তিযুদ্ধের পক্ষে ঐ সরকারের দৃঢ় সমর্থন ছাড়া বিশ্বের কোন দেশই বাংলাদেশের প্রতি সাহায্যের হাত বাড়িয়ে দেবে না। এছাড়া ভারতীয় প্রধানমন্ত্রীর সাথে বৈঠকের আগের দিন এক উর্ধ্বতন কর্মকর্তা তাজউদ্দীনের কাছে জানতে চান যে স্বাধীন বাংলাদেশের পক্ষে কোন সরকার গঠিত হয়েছে কিনা। তখন তিনি সিদ্ধান্ত নেন যে বৈঠকে তিনি বাংলাদেশ সরকারের প্রতিনিধিরূপে নিজেকে তুলে ধরবেন। কারণ এতে 'পূর্ব বাংলার জনগণের সংগ্রামকে সাহায্য করার জন্য ৩১ মার্চ ভারতীয় পার্লামেন্টে যে প্রস্তাব গৃহীত হয়' তা কার্যকর রূপলাভ করতে পারে বলে তাজউদ্দিনের ধারণা হয়। ইন্দিরা গান্ধীর সাথে বৈঠকের সূচনাতে তাজউদ্দিন জানান যে পাকিস্তানী আক্রমণ শুরুর সঙ্গে সঙ্গেই ২৫/২৬ মার্চেই বাংলাদেশকে স্বাধীন ঘোষণা করে সরকার গঠন করা হয়েছে। শেখ মুজিব সেই স্বাধীন বাংলাদেশ সরকারের প্রেসিডেন্ট এবং মুজিব - ইয়াহিয়া বৈঠকে যোগদানকারী সকল প্রবীণ সহকর্মীই মন্ত্রীসভার সদস্য। মুজিবের গ্রেফতার ছাড়া তখন পর্যন্ত দলের অন্যান্য প্রবীণ নেতা-কর্মীর খবর অজানা থাকায় সমাবেত দলীয় প্রতিনিধিদের সাথে পরামর্শক্রমে দিল্লির উক্ত সভায় তাজউদ্দীন নিজেকে প্রধানমন্ত্রীরূপে তুলে ধরেন। ঐ বৈঠকে তাজউদ্দীন আহমদ ইন্দিরা গান্ধীর কাছে স্বাধীন বাংলাদেশকে স্বীকৃতি দানের জন্য অনুরোধ করেন। ইন্দিরা গান্ধী তাঁকে এই বলে আশ্বস্ত করেন যে, উপযুক্ত সময়ে আনুষ্ঠানিক স্বীকৃতি দেয়া হবে। এভাবেই অস্থায়ী বাংলাদেশ সরকারের ধারণার সূচনা। 
৪ঠা এপ্রিল দিল্লীতে ইন্দিরা গান্ধীর সঙ্গে তাজউদ্দীনের আনুষ্ঠানিক আলোচনা হয়। ১০ এপ্রিল মেহেরপুর জেলার মুজিবনগরে বাংলাদেশের স্বাধীনতার সনদ ঘোষণা করা হয়। ১১ এপ্রিল তাজউদ্দীন বেতারে ভাষণ দেন। ১৭ এপ্রিল মুজিবনগরে আনুষ্ঠানিকভাবে গণপ্রজাতন্ত্রী বাংলাদেশের অস্থায়ী সরকারের শপথ গ্রহণ অনুষ্ঠিত হয়। তাজউদ্দীন আহমদ হন বাংলাদেশের প্রথম প্রধানমন্ত্রী। শেখ মুজিবুর রহমানের অনুপস্থিতিতে অস্থায়ী রাষ্ট্রপতির দায়িত্ব নেন সৈয়দ নজরুল ইসলাম।
অস্থায়ী সরকার ১৬ই ডিসেম্বর স্বাধীনতা অর্জন পর্যন্ত কলকাতা থেকে কার্য পরিচালনা করে। তাজউদ্দীন আহমদ দৃঢ়তা ও নিষ্ঠার সাথে এতে নেতৃত্ব দেন।