1499年），改右都御史，总督漕运，兼巡抚淮、扬等府。之后掌管南京都察院，与南京吏部尚书林瀚、佥都御史林俊、国子监祭酒章懋共称「南都四君子」，就迁南京刑部尚书。正德元年（1506年），召为左都御史。同年冬，大臣与言官请求驱逐刘瑾等宦官，内阁力主此事。武宗犹豫不决。继而朝廷风气大变，宦官势力大增。张敷华只能与杨守随辞职，至徐州时乘坐小艇遇到洪水，触石几乎溺死。刘瑾仍然忌恨，欲借湖广仓储浥烂事，连坐张敷华。翰林院修撰康海对刘瑾说：「吾秦人爱张公如父母，公忍相薄耶？」刘瑾于是稍微解意，仍然连坐其与杨守随罪。次