卢循而获封乡侯。后刘裕北伐后秦，遵考以建威将军、彭城内史随军。由于刘裕诸子年纪尚幼，弟刘道规已逝，刘道邻又留在国内荆州重地，其时能让其任用的宗室就只有遵考一人，故在灭秦后以遵考督并州司州之河北河东北平阳、北雍州之新平安定五郡诸军事、辅国将军、并州刺史，领河东太守，镇蒲坂。义熙十四年（418年），刘裕班师，但不久关中就遭夏国进攻，留守诸将又内斗，最终刘裕虽派朱龄石代镇长安亦无法扭转局势。关中被夏国侵夺后，遵考亦自并州南返，先后任游击将军及冠军将军。刘裕篡晋后，因遵考宗室身份而封为营浦县侯，食邑五百，又以冠