五部中的俊才都投归刘渊，连幽州和冀州的名儒和寒门秀士都前来与他结交。永熙元年（290年），晋惠帝司马衷继位，由外戚杨骏辅政。杨骏为了拉拢远人，树立私恩，便任命刘渊为建威将军、五部大都督，封汉光乡侯。但至元康末年刘渊便因部下族人叛变出塞而免官。不久成都王司马颖出镇邺城（今河北临漳县西南），为拉拢刘渊而表他行宁朔将军、监五部军事，并召他至邺城。
乘乱立业.当时八王之乱战火再起，赵王司马伦、齐王司马冏及长沙王司马乂先后以军事力量上台掌权，司马伦更曾篡位称帝，天下大乱，盗贼蜂起。刘渊叔祖父