康元年（300年），刘乔又人协力诛除贾谧等贾氏集团，获封安众男，迁散骑常侍。刘乔及后迁任御史中丞，当时执政的齐王司马冏宠信心腹董艾，刘乔却不像百官那样害怕他，反倒上表六项罪名弹劾董艾，最终遭董艾中伤而被贬官，降为屯骑校尉。太安二年（303年），义阳蛮张昌发动叛乱，并进攻附近郡县，刘乔获任命为威远将军，豫州刺史，并与荆州刺史刘弘一同领兵平乱，平定后进位左将军。永兴元年（304年），河间王司马颙部将张方挟逼晋惠帝迁都长安。次年（305年），将领王浚和范阳王司马虓等即推举东海王司马越为盟主，起兵到长安要迎