兼收中外图书。到1924年，涵芬楼的藏书已达463083卷，成为当时中国最大的藏书楼。其中，到1924年，涵芬楼藏有37000卷善本及珍贵抄本，其中包括十二卷《永乐大典》。涵芬楼还收藏了中国2641种地方志。涵芬楼收藏的外文书刊有数套欧洲科学杂志，全套的荷兰《通报》、英国《亚洲文会北中国支会会报》，后两种均由汉学家创办。涵芬楼还收藏了5000张照片、地图、绘画、图表。张元济乃决定将其改建为公共图书馆，向公众开放。商务印书馆董事会决议投资11万银元兴建一座五层大厦，定名“东方图书馆”，1926年建成开放。