为陕西右参政，岁余擢右布政使。成化六年（1470年）转左布政使，调任浙江布政使。半年后，拜右副都御史，巡抚延绥。当时巡抚王锐修建城堡城墙为长远之计，后工程未开始就被罢免。余子俊上疏请求补建，而尚书白圭则以陕民困乏，奏请缓役。随后蒙古寇乱发生，余子俊先后与朱永、许宁击退。边寇入侵河套地区，明朝屡次发兵征讨均无功。成化八年，朱子俊进左副都御史。明年，又用红盐池捣巢功，进右都御史。成化十年，因母老乞归，慰留不许。成化十三年，召为兵部尚书，后论陈钺掩杀贡夷罪，帝以汪直缘故宽宥，陈钺于是屡次诬陷余子俊，恰逢其母丧