Ifølge kommer navnet fra Jiéshì-området (羯室; i dag Yushe i Shanxi), hvor de hadde bosatt seg. Det kinesiske tegnet "羯" betyr enten «vær» eller «kastrert vær». Ifølge var Senere Zhaos grunnlegger Shi Les forfedre en separat xiongnu-stamme kjent som Qiāngqú (羌渠). Sinologen Edwin G. Pulleyblank identifiserte Qiāngqú med kangjuene, som kan ha hatt et tokharsk opphav.