议共推刘渊为大单于，并派唿延攸告诉在邺城的刘渊，刘渊让唿延攸先回去告诉刘宣等召集各部，声言聚集五部协助司马颖，实际是为反晋作准备。晋惠帝永兴元年（304年）三月，司马颖等攻占洛阳，司马越挟持晋惠帝攻邺，司马颖打败司马越，并虏获晋惠帝。八月，司马越势力王浚、司马腾攻邺城，刘渊请求带领匈奴五部帮助司马颖抵御，司马颖同意，并拜刘渊为北单于，派遣回并州刺史部的平阳郡调发匈奴五部为援。刘渊返回并州离石，众人共推刘渊为大单于，并聚集五万之众。刘渊得知王浚军队已攻破邺城，司马颖南逃洛阳。刘渊还想遵守先前承诺帮助司马颖