东军民听说他要来了都欢欣鼓舞。马文升来后进一步约束宦官，总兵不得随意克扣，人们更加高兴。成化二十一年（1485年），马文升晋职为右都御史，总督漕运。淮安、徐州、和州发生饥荒，马文升从江南调去十万石粮食、盐价银五万两救济。同年冬，召为兵部尚书。第二年，被李孜省诬陷，调任南京兵部尚书。
弘治朝.明孝宗即位，授马文升左都御史职，赐大红织金衣一袭。弘治元年（1488年），马文升上言道：“宪宗朝，岳镇、海渎诸神庙，采用方士的话放置石匣子，周围环绕符篆，贮存金书道经、金银钱、宝石以及五谷作为压