调往广州，再改四川布政使。又改安徽按察使。三十一年（1905年），出任安徽布政使。三十二年（1906年），兼任提学使，在安徽巡抚恩铭被徐锡麟刺杀身亡后，清廷擢其为安徽巡抚，处决了徐锡麟。后因石风崖道台一事与鹿传霖、张之洞结仇，不久罢官。宣统二年（1910年），江苏、安徽遭受严重水灾，清廷起用其为查赈大臣，他积极筹资兴修水利，组织疏浚东台竹港，建闸泄洪筑堤，《清史稿》赞誉其：「与荒政相终始，仍以民为重」。民国后寓居上海，自号蒿隐公，以遗老自居，总纂《江南通志》，工诗词，上承常州词派余绪，刻有《唐五代词