失败后被清廷革职，任上海南洋公学译书院院长。光绪二十七年（1901年），张元济投资上海商务印书馆，并主持该馆编译工作，倡议设立编译所，聘蔡元培为所长，主持编定教科书，并延请夏曾佑编《最新中学中国历史教科书》。张元济长期主持商务印书馆，后来任董事长。叶圣陶在《商务印书馆》一文评价：“张先生把商务看成是他的终生事业。”民国三十七年（1948年），张元济当选首届中央研究院院士。次年，担任第一届全国政协委员和第一届全国人大代表。1959年8月14日于上海逝世。
着作.着《涵芬楼烬余