光绪元年(1875年),张树声丁母忧去职回乡。在故乡期间,他曾联合刘铭传等人在离故居张老圩不远处,创办“聚星书院”,请李鸿章、左宗棠等人题写匾额、门联,培养故乡人才;还曾应主持修复巢湖姥山文峰塔的吴毓芬之请,题写 “势如涌出”四个苍劲有力的大字,至今石刻塔匾仍高悬塔中。光绪四年(1878年)起复后,张树声历任贵州巡抚、广西巡抚。其间,着力剿平黔、桂等地李扬才、蒙老忿等匪乱。光绪四年(1878年)进京觐见,受到当政的慈禧太后召见。召见中,慈禧询问了一些办理洋务、国家自强之策及地方民情的问题,张树声一一作答,并阐述自己的见解和主张。
光绪五年(1879年),张树声升任两广总督,成为权倾朝野的重臣。任上,张树声重视办理南疆海防、陆防,也顺应洋务自强的时势,开办了一些造船、办学、架筑电线、修建炮台等洋务,收到一些成效。值得称道的还有“禁闱姓”、“洋药土烟税釐”等项。所谓“闱姓”,实为一种类似于今天彩票的赌博方式,当地虽然屡经申禁,仍是愈演愈烈,“赌日盛而民日贫”。因此,他坚决反对有人提出的“开禁抽捐”之议,从严加以禁止。洋药、土烟实即鸦片。鸦片战争国门被西方列强打开之后,吸食鸦片实已无法禁止,但鸦片毒害尤深。张树声上奏朝廷,采取加徵税釐的办法加以控制,以期逐步减少民众吸食,在当时不失为一种无奈之举。
壬午事变
光绪八年(1882年)四月,李鸿章因丁忧回藉,奏由张树声署理直隶总督兼北洋大臣。张树声接任不久,就遇到朝鲜发生内乱。以朝鲜国王之父李罡应为首的保守派,因不满国王李熙、王妃闵氏推行新政,以克扣兵饷为由聚集乱兵生事,冲击王宫,烧毁日本使馆,杀死日本练兵教头崛本等7人。日本领事花房义质连忙逃回国内搬兵。朝鲜国王、闵妃亦不知所踪,国内乱作一团。日本早有侵略日本之心,趁此事件正欲借端发事。当年农历是壬午年,所以史称“壬午事变”。
数日后,在中国天津的领选使金允植、鱼允中,向清廷禀报事实真相,请求宗主国出兵靖难。朝鲜古有“箕子之国”称谓,明清以来,向为中国的宗藩国。张树声接到报告后,一面上报总理衙门请示办法,一面致电李鸿章磋商意见。由于担心日本借机介入,而军机不可延误,张树声立即派北洋水师提督丁汝昌,持自己亲笔信函,去山东登州见到“庆”军主将、官任广东水师提督的吴长庆,并约吴长庆至天津面商对策。吴长庆接信后闻变即行,立即赶赴天津。刚住进事前安排好的公馆后,