桓康全副武装随萧道成入宫。萧道成驻屯东府，桓康任武陵王中兵、宁朔将军，兼兰陵郡太守，护卫侧近。昇明二年（478年），萧道成命他到东府召黄回，桓康率数十人杀害黄回。桓康受后军将军、直阁将军之号，任南濮阳郡太守。建元元年（479年），萧道成即位皇帝，建立齐朝、桓康封吴平县伯。受辅国将军、左军将军、游击将军之号。北魏侵攻南齐，桓康假节驻屯北方，受冠军将军之号。建元三年（481年）二月，在淮阳大胜魏军，进兵攻下北魏樊谐城。《魏书·高祖纪上》记载，桓康在淮阳败于北魏。建元四年（482年），担任持节、督青冀二州