马伦手下孙秀领兵三万抵抗司马颖兵败。司马伦兵败之后司马冏辅政，因为刘琨出身名门，任命刘琨为尚书左丞，转司徒左长史。再次年司马冏败给东海王司马越，司马越的支持者范阳王司马虓（不是八王之一）镇守许昌，推荐刘琨为司马。司马越派刘琨的父亲刘蕃为淮北护军、豫州刺史。河间王司马颙手下刘乔攻击司马虓，刘琨援救不及，其父母被刘乔俘获。刘琨说服其连襟温憺的兄长冀州刺史温羡让位给司马虓。光熙元年（306年）从王浚处求得八百骑兵，战败刘乔，救出父母。刘琨助司马腾击败、斩成都王司马颖（司马颙的联军）手下大将石超，降司马颙手下荥