总督后，张于1886年开始筹备兴办一所以培养“经世致用”型人才为目标的新型书院。经近两年的选址与筹备，广雅书院于1888年6月8日在广州西北郊的源头乡正式开馆，校名取“广者大也，雅者正也”之意，以示书院的目标是培养学识渊博、品行雅正的人才。广雅书院是两广的最高学府，亦是时至当年以来督抚级公办民助用银最多、储备资金最足、佔地面积最大、最具民族园林特色、图籍最丰、管理最完善、要求最严格、成效最卓着、有护院河护院墙城堡封闭式书院。光绪二十八年壬寅（1902年），两广总督陶模，承光绪皇帝书院改制钦命，经光绪准奏