曜等留守关中地区。但不久，司马模从事中郎索綝等人图谋复兴晋室，联合一些不肯投降的郡守起兵进攻长安，并于新丰击败刘粲，刘粲被逼撤还首都平阳。次年，刘聪命刘粲与刘曜领兵进攻晋并州刺史刘琨所在的并州，并成功攻陷治所晋阳。不久刘琨与拓跋猗卢领大军反攻晋阳，于汾河以东击败刘曜。刘曜回晋阳后，与刘粲等掳晋阳城中平民撤退，但被拓跋猗卢追及并于蓝谷大战，最终汉军大败，尸横遍野，但刘粲等人成功撤退。
相国专政.嘉平四年（建兴二年，314年），刘聪升刘粲为丞相、领大将军、录尚书事，并进封晋王。年末