又因据守乐平的乌桓人张伏利度不肯加盟汉国，石勒于是假称得罪刘渊而投奔张伏利度，并与他结为兄弟，与其胡人部众一同抢掠郡县，所向无敌，于是众人畏服。石勒在众人心附自己后乘宴会抓着张伏利度，让部众推举自己为主。石勒后释放张伏利度而率领其部众归附汉国。刘渊于是加石勒为督山东征讨诸军事，并让这些胡人部众跟随他。
侵扰山东.刘渊派兵向外扩张，于永嘉二年（308年），派石勒领兵东侵。石勒于九月攻陷邺城，征北将军和郁逃走。十月刘渊称帝，授予使持节，平东大将军。不久石勒又率三万进攻魏郡、汲郡和顿丘，