嘉之乱后，因晋牙门赵染叛晋归降，刘聪命赵染等进攻镇守长安的南阳王司马模，刘粲与刘曜则领大军作赵染后继。同年攻陷长安，司马模投降并被刘粲所杀。刘粲于是与刘曜等留守关中地区。但不久，司马模从事中郎索綝等人图谋复兴晋室，联合一些不肯投降的郡守起兵进攻长安，并于新丰击败刘粲，刘粲被逼撤还首都平阳。次年，刘聪命刘粲与刘曜领兵进攻晋并州刺史刘琨所在的并州，并成功攻陷治所晋阳。不久刘琨与拓跋猗卢领大军反攻晋阳，于汾河以东击败刘曜。刘曜回晋阳后，与刘粲等掳晋阳城中平民撤退，但被拓跋猗卢追及并于蓝谷大战，最终汉军大败，尸