七民变平息不久，其负责抚绥招集。入为监察御史，与同官弹劾万贵妃干政，廷杖几乎被打死。出督京畿学校，因丁忧离职，在家居十余年。弘治五年（1492年），复起为监察御史，巡按云南等地，平定当地孟密土舍思揲构乱，并弹劾镇守太监傅德、故总兵官周玉侵据屯田、巡抚冯续减削军饷等。升太仆寺少卿，改大理寺少卿。之后升爲右副都御史，督储南京。正德二年（1507年），召为南京工部右侍郎、一年后迁南京右都御史。因得罪刘瑾，令以南京户部尚书致仕。次年七月去世。刘瑾伏诛，朝廷按例赐张泰葬祭。