员外散骑侍郎，但期间屡屡被弹劾，宋文帝见他是功臣之子，每次都放过他。不过后来还是因为被揭赌博而被免官。刘康祖后转太子左积弩将军。元嘉十八年十二月癸亥日（442年1月12日），刘康祖诏与龙骧将军裴方明及梁坦率三千兵协助梁秦二州刺史刘真道讨伐侵扰汉川的杨难当，并于次年大破杨难当，难当逃奔北魏，仇池平定。然而，不久就因刘真道及裴方明私吞仇池中的金银财宝和杨难当的马而被收下廷尉，并被免官。不久，时任南豫州刺史的武陵王刘骏征康祖为征虏中兵参军，于是一改以往作风，修心养性。后转太子翊军校尉，又任豫州刺史、安蛮校