及后因长安失守而被贬为龙骧大将军，行大司马。同年，晋并州刺史刘琨部下令狐泥叛归汉国，刘聪于是命令狐泥作向导，以刘粲和刘曜领兵进攻并州治所晋阳（今山西太原市）。二人最终乘虚攻陷晋阳，夺取刘琨的根据地。因此功绩，刘曜复任车骑大将军。但两个月后，刘琨即与拓跋猗卢联手反攻晋阳，刘曜在汾河以东与拓跋六脩交战，但兵败坠马并受重伤，因讨虏将军傅虎协助才得以逃回晋阳。刘曜及后掠晋阳城中人民逃归平阳，但遭拓跋猗卢追及，在蓝谷交战但惨败。但仍成功回到平阳。嘉平三年（晋建兴元年，313年），刘曜与司隶校尉乔智明等进攻长安