视淮南淮北饥荒，奏贷漕粮及江南余粮以赈灾，得到批准。次年，与户部尚书马昂清理京军，进升右都御史。成化七年，代王越担任大同巡抚，后遇疾致仕。再过一年，以故官起掌南京都察院。成化十三年（1477年），召拜刑部尚书，寻加太子少保。成化十五年，与中官汪直、定西侯蒋琬按察辽东失事，汪直包庇巡抚陈钺，林聪无法与之争。成化十八年，卒于任上，享年六十八岁。赠少保，谥庄敏。