同年五月，改翰林院庶吉士，光绪二十年四月，散馆，着以部属用，任刑部主事，曾任总理各国事务衙门章京。甲午战争后，积极投身维新运动，组织陶然亭集会。光绪二十三年（1897年），在北京创办溪学堂。戊戌变法时，被徐致靖推荐给光绪帝，变法失败后被清廷革职，任上海南洋公学译书院院长。光绪二十七年（1901年），张元济投资上海商务印书馆，并主持该馆编译工作，倡议设立编译所，聘蔡元培为所长，主持编定教科书，并延请夏曾佑编《最新中学中国历史教科书》。张元济长期主持商务印书馆，后来任董事长。叶圣陶在《商务印书馆》一文评价：