战争惨败后，光绪帝派张荫桓、湖南巡抚邵友濂为全权大臣赴日本媾和。二十三年（1897年），出使英、美、法、德、俄诸国。8月12日，以英维多利亚女王登基60週年清帝贺使，获圣米迦勒及圣乔治爵级大十字勋章（荣誉会员）。二十四年（1898年）3月，协助李鸿章与俄国签订《旅大租地条约》。 张荫桓是京城为数不多的曾经出洋、懂洋务的外交官员，但他得到清德宗的信任和得到外交消息的人。戊戌变法时，调任管理京师矿务、铁路总局，因为支持慈禧默许的戊戌变法，与翁同龢、康有为关系密切，戊戌政变后，张荫桓安排家属返回佛山南海