明五年（461年）十二月，遵考再任尚书右仆射，金紫光禄大夫，散骑常侍。至次年九月转尚书左仆射，领徐州刺史，大中正及崇宪太仆。
后期.永光元年（465年），宋前废帝继位，转任特进，右光禄大夫，仍兼散骑常侍及崇宪太仆。同年前废帝诛刘义恭等人，调遵考督南豫州诸军事、安西将军、南豫州刺史。亦在同一年，宋明帝杀前废帝即位，以遵考为侍中、特进、右光禄大夫，领崇宪太仆，并给亲侍三十人。次年崇宪太后路惠男去世，遵考解太仆职。泰始五年（469年）更获赐几杖，太官四时赐珍味及太医给药的礼遇。泰豫元年（