জাতির জনক বঙ্গবন্ধু শেখ মুজিবুর রহমান ১৯৭২ সালের নভেম্বরে আরকাইভস ও গ্রন্থাগার অধিদপ্তরটি প্রতিষ্ঠা করেন। প্রতিষ্ঠালগ্নে অধিদপ্তরটি শিক্ষা মন্ত্রণালয়ের অধীনে ছিল। পরবর্তীতে এটি সংস্কৃতি বিষয়ক মন্ত্রণালয়ের অধীনে আসে। ১৯৮৬ সালে জাতীয় গ্রন্থাগার ভবন নির্মাণ হওয়ার পূর্ব পর্যন্ত অধিদপ্তরটি একটি ভাড়া বাড়িতে এর কার্যক্রম শুরু করে। জাতীয় গ্রন্থাগার ভবন নির্মাণ কাজ শুরু হয় ১৯৭৮ সালে এবং নির্মাণ কাজ সম্পন্ন হয় ১৯৮৫ সালে। ২০০৫ সালের পূর্ব পর্যন্ত জাতীয় আরকাইভস-এর কার্যক্রম জাতীয় গ্রন্থাগার ভবনে সম্পাদন হয়। গণপ্রজাতন্ত্রী বাংলাদেশ সরকারের প্রধানমন্ত্রী শেখ হাসিনা, এমপি ২০০১ সালে জাতীয় আরকাইভস ভবন নির্মাণের ভিত্তি প্রস্তর স্থাপন করেন। জাতীয় আরকাইভস ভবন নির্মাণের প্রথম পর্যায় ২০০৪ সালে এবং ২য় পর্যায় ২০১২ সালে শেষ হয়। বর্তমানে জাতীয় আরকাইভসের কার্যক্রম ৫তলা বিশিষ্ট প্রশাসনিক ভবন এবং ৭তলা বিশিষ্ট ষ্ট্যাক ভবনে সম্পাদন হচ্ছে যা আগারগাঁও, শেরেবাংলা নগর, ঢাকা-১২০৭-এ অবস্থিত।