，于是在管涔山隐居。
为国征战.晋永兴元年（304年），刘渊自称汉王，国号汉，改元元熙任命刘曜为建武将军。刘曜当年就被派往进攻并州郡县以开拓疆土。汉永凤元年（晋永嘉二年，308年），刘渊称帝，拜刘曜为龙骧大将军。后封为始安王。汉河瑞元年（晋永嘉三年，309年），刘曜与刘聪等进攻洛阳，但被晋军乘虚击败。河瑞二年（310年），刘渊患病，命刘曜为征讨大都督、领单于左辅。不久刘渊逝世，太子刘和继位。刘和后又被刘聪所杀，刘聪及后登位为帝。刘聪登位后，不久就命刘曜与河内王刘粲等进攻