成功后，国立京师图书馆改名国立北平图书馆，并迁址到中南海居仁堂。1929年8月，北平图书馆与中华教育文化基金董事会建立的北海图书馆合并，接受中华教育文化基金会的资金支持，归国民政府教育部领导，并开始独立行使国家图书馆的职能；直到1933年在南京建立国立中央图书馆，后者与北平图书馆一同行使国家图书馆职能。1931年，北平图书馆新馆（今为中国国家图书馆古籍馆所在地）在文津街落成，是当时远东最先进的图书馆之一。当时的北平图书馆下设二会八部，分别为：购书委员会、编纂委员会、总务部、采访部、编纂部、阅览部、善本部