是为了要搭配五胡这个数字。史书中，又称他们为杂胡。唐长孺认为，杂胡即杂种之胡，为部落间通婚的后代，并不是属于单一种族。陈寅恪认为，杂胡即小胡、部落胡，因为他们是附属在南匈奴之下的小部落，因此被称为杂胡。北朝的尔朱氏，在文献中被称为羯胡，或契胡。唐朝安禄山，出身粟特人，也被史书称为羯胡。中国东北的靺鞨，唐初也被写为靺羯，可能也与羯人有关。但因文献不足，无法确定他们与石勒部落之间的关连。
活动地区.山西南匈奴部落的人，因战乱以及被贩卖为奴，流散至河北诸县，居住在山间，开始以羯胡之名