柏林国立图书馆的前身「施普雷河畔的科隆选帝侯图书馆」（"Churfürstliche Bibliothek zu Cölln an der Spree"）在柏林成立。1701年更名为「王家图书馆」（"Königliche Bibliothek"）。第一次世界大战之后图书馆由普鲁士文化遗产基金会接管。1954年开始东德确立此图书馆为东德的国家图书馆。直到两德统一后的1992年1月1日，东西两德的国家图书馆才正式合并为现在规模的德国国立图书馆。
图书馆结构.如今的柏林国立图书馆由两部