知道其才能。二十岁时到洛阳游历，但期间就被定罪而要被诛杀，于是逃亡到朝鲜，后来遇到朝廷大赦才敢回来。刘曜亦觉得自己外表异于常人，怕不被世人所接纳，于是在管涔山隐居。
为国征战.晋永兴元年（304年），刘渊自称汉王，国号汉，改元元熙任命刘曜为建武将军。刘曜当年就被派往进攻并州郡县以开拓疆土。汉永凤元年（晋永嘉二年，308年），刘渊称帝，拜刘曜为龙骧大将军。后封为始安王。汉河瑞元年（晋永嘉三年，309年），刘曜与刘聪等进攻洛阳，但被晋军乘虚击败。河瑞二年（310年），刘渊患病，命刘