三奴、向思奴40人一起攻破南康郡大狱，救出萧赜。他随萧赜转战，所经村落暴行，江南人都害怕桓康。在萧赜属下为冠军府参军，任殿中将军、武骑常侍，出任襄贲县令。元徽二年（474年）、桂阳王刘休范起兵，桓康放弃襄贲回到建康，投到萧道成属下。刘休范被平定，桓康任员外郎。元徽五年（477年）七月初六日夜，宋后废帝微服出行到领军府，与侧近密议。桓康和萧道成所养健儿卢荒、向黑在门前听到密语。七月初七日夕，王敬则将后废帝的首级献给萧道成。桓康全副武装随萧道成入宫。萧道成驻屯东府，桓康任武陵王中兵、宁朔将军，兼兰陵郡太守，