前身是建于清朝末年的奉天图书馆。1906年（光绪三十二年），清廷废除科举，改立新学。盛京将军赵尔巽特请张鹤玲出任首任奉天提学使，主持新学教育。张鹤龄有感日俄战争“战乱虽平，疮痍未复，典籍散佚，少有存者”，遂向赵尔巽奏请设立省城图书馆。张鹤龄的主张得到了赵尔巽在财政方面的支持。后者拨银款五千两，资助创建图书馆。在近半年的筹划后，张鹤龄决定在定小南门里宗人府胡同汉军正黄旗第三佐领程牛录官厅旧址建馆。张还在同年夏天特别聘请陈炳焕为馆长。1907年6月，开始动土建馆，具体包括在程牛录官厅前操场空地新建一栋西式大楼作