98年任右议政。1499年，讨伐三水郡的野人女真。1500年任左议政，与领议政韩致亨、右议政李克均上书劝阻燕山君的乱政，但没有成功。1503年，兼任世子师。甲子士祸时，受到成宗妃尹氏被废事件的牵连，成俊被流放稷山（今忠清南道天安市），并被绞死。中宗反正后被平反，谥明肃。