来到上海，与刘铭传等分领淮军进攻太平军；后来参与镇压捻军；1872年任江苏巡抚。光绪五年闰三月十三，由贵州巡抚调任广西巡抚。光绪五年十一月十五（1879年12月27日），升任两广总督。于1879年12月27日至1882年4月19日期间，奉旨接替裕宽担任两广总督；全名为「总督两广等处地方提督军务、粮饟兼巡抚事」的该官职，是兼辖广西地区的广东、广西两省之最高统治者，亦为清朝封疆大吏之一。张树声又于1882年至1883年，担任直隶总督；1884年11月病逝于广州，谥靖达。