刘琨即与拓跋猗卢联手反攻晋阳，刘曜在汾河以东与拓跋六脩交战，但兵败坠马并受重伤，因讨虏将军傅虎协助才得以逃回晋阳。刘曜及后掠晋阳城中人民逃归平阳，但遭拓跋猗卢追及，在蓝谷交战但惨败。但仍成功回到平阳。嘉平三年（晋建兴元年，313年），刘曜与司隶校尉乔智明等进攻长安，但遭麴允击败。次年又与赵染和殷凯进攻长安，但殷凯被麴允击杀。刘曜于是转攻河内太守郭默但不能攻破，后更被鲜卑骑兵所吓退。建元元年（晋建兴三年，315年），刘曜一度转战并州，虽曾获胜，但不久又再回到蒲坂准备再次进攻长安。及后刘曜即被派往进攻北地，