河瑞二年（310年），刘渊患病，命刘曜为征讨大都督、领单于左辅。不久刘渊逝世，太子刘和继位。刘和后又被刘聪所杀，刘聪及后登位为帝。刘聪登位后，不久就命刘曜与河内王刘粲等进攻洛阳，并击败晋将裴邈，在梁、陈、汝南、颍川之间大肆抢掠。次年，刘聪命唿延晏领兵攻洛阳，刘曜奉命领兵与其会合，并于六月壬辰日（7月8日）抵达西明门。五日后，刘曜等便攻入洛阳大肆抢掠和杀害大臣，并掳晋怀帝等人，将他们送到平阳（今山西临汾市）。史称「永嘉之乱」。当时王弥认为洛阳城池和宫室都完好，建议刘曜向刘聪建议迁都洛阳，但刘曜认为