一部份月氏人则往东南迁至今日中国甘肃及青海的祁连山西北麓一带，被汉朝人称为小月氏。由于当时的甘肃和青海为匈奴所占据，这一班居住在匈奴人中间的月氏人，与匈奴部落杂居，被称为匈奴别部卢水胡。其中在397年沮渠家族推北凉汉官段业为主，在现甘肃地区建立北凉。后沮渠蒙逊杀段业，自立为北凉主。后被拓跋鲜卑人北魏所灭。
现代考证.月氏族系，现代学者有三种主流假说，分别为高加索印欧人假说，突厥假说与藏缅语族三种。中华人民共和国学者余太山考证，认为古代少昊部落西迁后成为允姓之戎，为塞种先祖，塞种