德元年（888年），李罕之既失河阳，遂来向李克用归降，并且寻求援助，李克用乃以康君立充为南面招讨使，李存孝为其副将，帅师二万助李罕之攻取河阳。是年三月，与朱温麾下的丁会、牛存节战于沇河。临阵时，骑将安休休叛入敌军，康君立遂引退。八月，康君立被授汾州刺史。大顺元年，潞州小校安居受谋反，李克用派遣康君立前去将他讨平，授康君立检校左仆射、昭义节度使。自此李克用的大军连年攻略邢州、洺州的土地，攻打孟方立，康君立常率泽州及潞州的军队以为掎角。景福元年（892年），升为检校司徒，食邑千户。景福二年（893年），李存