三百斤的弓，勇勐矫捷，冠绝一时。可谓文武皆能。刘聪二十岁后到洛阳游历，得到大量名士结交。后担任新兴太守郭颐的主簿。及后迁任右部都尉，因安抚接纳得宜而得到匈奴五部豪族的归心。河间王司马颙表刘聪为赤沙中郎将，但当时刘渊在邺城任官，因害怕驻守邺城的成都王司马颖加害父亲，于是投奔司马颖，任右积弩将军，参前锋战事。
助父建国.永安元年（304年），司马颖任命刘渊为北单于，刘聪于是被立为右贤王，并与父亲应命回到匈奴五部为司马颖带来匈奴援军。但刘渊回到五部后就称大单于，刘聪亦