幽州李可举征讨于李克用，攻李克用于蔚州。康君立进击李可举的部队屡次得胜，当李国昌北奔入鞑靼时，保住了李克用的军队。及后，李克用被授雁门节度，以康君立为左都押牙，跟从大军入关驱逐黄巢乱军及收复长安。李克用回太原镇守时，授康君立为检校工部尚书、先锋军使。文德元年（888年），李罕之既失河阳，遂来向李克用归降，并且寻求援助，李克用乃以康君立充为南面招讨使，李存孝为其副将，帅师二万助李罕之攻取河阳。是年三月，与朱温麾下的丁会、牛存节战于沇河。临阵时，骑将安休休叛入敌军，康君立遂引退。八月，康君立被授汾州刺史。大