可能从这时起，月氏便开始弃河西走廊而向西迁徙。前177年或前176年，冒顿单于再次击败月氏。据冒顿单于于前174年致汉文帝刘恆书中说：“故罚右贤王，使至西方求月氏击之。以天之福，吏卒良，马力强，以夷灭月氏，尽斩杀降下定之。楼兰、乌孙、乌揭及其旁二十六国皆已为匈奴，诸引弓之民并为一家，北州以定。”月氏这次败后，更西迁到准噶尔盆地。（前162年），匈奴的老上单于又破月氏，月氏乃更向西迁移到伊犁河流域。当月氏离弃河西时，有一小部分越祁连山，“保南山羌，号小月氏”。这部分月氏人日后长期留住该地，