九年（1710年），告病辞官，仍慰留在朝。康熙五十年（1711年），以七十岁高龄随康熙至热河，五月十八日病死塞外，谥文贞。着有《文贞集》。有子张逸少，康熙三十三年（1694年）甲戌科进士。
着述.着有《张文贞集》。并主持修《明史》，及编《平定朔漠方略》、《佩文韵府》（1704年—1711年）、《康熙字典》。