巡抚宣府。数月后，召拜左都御史。成化二年（1466年），命其整饬辽东抵大同边备，抵任即弹劾镇守中官李良、总兵武安侯郑宏失律罪，出都指挥裴显于狱，举指挥崔胜、傅海等，在凤皇山击敌获胜。先后巡抚宣府、大同，更换其将领，申明军令。不久，命担任总督，与武清伯赵辅分五道出塞并获大胜。加太子少保。成化三年，吏部尚书王翺致仕，廷臣推举继任者，宪宗特别推荐李秉。李秉任内对吏治进行大型改革，分别审查国子监生八千余人，并淘汰其中数百，怨声载道。加上每逢会朝觐考察，李秉斥退者众多，且多为大臣的乡里故人，众怨交集。结果大臣纷纷