平阳后，就被刘聪任命为特进、左光禄大夫、平阿公。后来改封会稽郡公。刘聪曾与怀帝回忆昔日与王济造访他的往事，亦谈到西晋八王之乱，宗室相残之事。刘聪谈得十分高兴，更赐小刘贵人给怀帝。但于嘉平三年（313年）正月，刘聪在与群臣的宴会中命怀帝以青衣行酒，晋朝旧臣庾珉和王儁见此忍不住心中悲愤而号哭，令刘聪十分厌恶。当时又有人流传庾珉等会作刘琨的内应以助他攻取平阳，于是杀害怀帝和庾珉等十多名晋朝旧臣。
屡攻长安.晋怀帝被杀的消息于四月传至长安后，在长安的皇太子司马邺便即位为晋愍帝。刘聪则派赵染