魏晋时,羌人和匈奴、羯、氐等族入居内地,晋朝的江统曾以著名的《徙戎论》上书皇帝,提出把内地诸羌迁回河湟的原住地,未被采纳。十六国时,烧当羌部的姚苌于384年在渭北牧地起兵,称万年秦王,改元白雀,是为后秦。后秦第二代皇帝姚兴,是一个颇有作为的人,他先后击灭前秦、后凉两国,拥有今陕西、甘肃、河南等地,成为西方的一大强国。后秦传到第三代后,于417年被东晋灭亡。经过南北朝时期,入居内地的羌人主要被汉族同化。到4世纪初(西晋末),在青海地区出现了吐谷浑国,是一个以鲜卑人统治的,辖有部分羌人居民的国家。670年被吐蕃所灭,他们一部分同化于吐蕃族、汉族之中,一部分可能演化为后来的土族。此外,南北朝时还有几支羌人,一支叫岩昌羌,居住在今甘肃洮河及白龙江流域,曾臣属北魏,564年被北周所灭。一支叫邓至羌,又叫白水羌,居住在今甘肃文县至四川松潘一带,臣属北魏,554年被西魏所灭。这两部羌人后来大多同化于汉族。一支叫白兰羌,居住在今青海南部和四川西部,曾向北周朝贡,7世纪初为吐蕃所并。
隋唐时,党项羌兴起。他们于南北朝时居住在今青海东部河曲和四川松潘以西一带,经营畜牧业。唐初,由于受到吐蕃的压迫,迁徙到今甘肃、宁夏、陕北一带。各部无君长、无法令,不相统一,尚处于原始社会阶段,后来归附唐朝。唐朝在其地设置羁縻州,以其首领任都督、刺史等职,皆世袭。后来又有一部分人因为同样原因内迁至夏州(今陕西横山)等地。宋、辽时,辽国为联合党项羌反宋,封党项羌首领赵继迁为夏国王。宋仁宗宝元元年(1038年),继迁孙元昊自立为帝,国号大夏,就是西夏。最盛时拥有22个州,包括今宁夏、陕北、甘肃西北部、青海东北部和内蒙古部分地区。1227年被蒙古成吉思汗所灭。他们逐渐同化于汉族和其他民族之中。此后,中国北方基本上不再见羌人活动,只有岷江上游,即今四川西北部还比较集中地存在一部分羌人。