后任右承旨、刑曹参判、同知中枢府事。1484年任汉城府右尹、京畿道观察使，后任刑曹判书兼世子侍讲院左宾客。1488年任大司宪、刑曹判书兼右参赞。1490年以圣节使的身份出使明朝。1491年任永安道节度使、北征副元帅，征伐道内的野人女真。1498年任右议政。1499年，讨伐三水郡的野人女真。1500年任左议政，与领议政韩致亨、右议政李克均上书劝阻燕山君的乱政，但没有成功。1503年，兼任世子师。甲子士祸时，受到成宗妃尹氏被废事件的牵连，成俊被流放稷山（今忠清南道天安市），并被绞死。中宗反正后被平反