十七年（1698年）升两江总督，两年后任河道总督。康熙四十七年（1708年）官刑部尚书，康熙五十二年（1713年）主持顺天乡试，升吏部尚书等要职，以清廉自持，康熙帝赞之：“天下廉吏，无出其右。”。世宗即位之初，加太子太傅。雍正元年（1723年）任文华殿大学士，仍兼吏部尚书。是年七月，前往河南查议冲决马营口工程。雍正三年（1725年）病逝，谥文端。
着作.孙桐生《国朝全蜀诗钞》收其诗。着有《治河记》10卷、《奏议》12卷、《奉使俄罗斯日记》及《如意堂诗文》等。有《张文端公全集》。