道及裴方明私吞仇池中的金银财宝和杨难当的马而被收下廷尉，并被免官。不久，时任南豫州刺史的武陵王刘骏征康祖为征虏中兵参军，于是一改以往作风，修心养性。后转太子翊军校尉，又任豫州刺史、安蛮校尉、南平王刘铄的安蛮司马。元嘉二十七年（450年），北魏南侵，魏太武帝更亲自领军围攻悬瓠城，守将陈宪奋力抵抗。刘铄就让刘康祖及臧质率军救援，康祖等战至融水，击破魏军并斩魏中尚书乞地真，并攻至悬瓠四十里外。魏军久攻不下，康祖援军又到，太武帝于是烧毁攻城器具后撤军。康祖后进左军将军。同年，宋文帝准备北伐，刘康祖认为七月才北伐