拉拢远人，树立私恩，便任命刘渊为建威将军、五部大都督，封汉光乡侯。但至元康末年刘渊便因部下族人叛变出塞而免官。不久成都王司马颖出镇邺城（今河北临漳县西南），为拉拢刘渊而表他行宁朔将军、监五部军事，并召他至邺城。
乘乱立业.当时八王之乱战火再起，赵王司马伦、齐王司马冏及长沙王司马乂先后以军事力量上台掌权，司马伦更曾篡位称帝，天下大乱，盗贼蜂起。刘渊叔祖父刘宣见此，决心乘着西晋朝政混乱振兴匈奴，于是秘密与族人推举刘渊为大单于，又派遣唿延攸到邺城通知刘渊。刘渊向司马颖请归不果，于是派唿延