一名进士（状元）；授翰林院修撰，迁左庶子，累迁少詹事兼侍讲学士。弘治八年（1495年），入阁参与机务，加太子少保、兵部尚书兼东阁大学士；与刘健、李东阳同辅国政，被认为是贤相，有“李公谋，刘公断，谢公尤侃侃”之诮。明武宗嗣位，累加封至太子少傅。时大宦官刘瑾专权，谢迁奏诛刘瑾，帝不纳。刘瑾怀恨，勾结人马排斥谢迁弟谢迪（兵部主事）、其子谢丕（翰林院编修）。正德四年（1509年），刘瑾以“徇私援引”为由，将谢迁荐举之浙东周礼等三人谪官戍边。同年（1509年12月），刘瑾又强夺谢迁的诰命，追还帝所赐之玉带服饰。正