汉化的南匈奴,一直居住在河套一带,三国时期曹操把匈奴分成五个部,即左、右、南、北、中,分别安置在陕西、山西、河北一带。各部贵者为帅,后改称都尉;以汉人为司马以监督。於夫罗子刘豹为左部帅。东汉末年以来,周边各民族纷纷涌入中原。其中以匈奴人人数最多,史称“关中人口百余万,戎狄居半,匈汉杂居”。而西晋因贾后乱政,引起了八王之乱,混战延续长达16年之久,给予了匈奴人介入的机会。公元4世纪,匈奴人刘渊在成都王司马颖手下为将。乘西晋八王之乱之后的混乱时期,刘渊在并州离石起兵立汉国,称汉王,后称帝,占领了北中国的大部分地区。311年刘渊子刘聪攻占洛阳,316年攻占长安,灭西晋。318年,匈奴贵族靳准杀死刘聪子刘粲及其家族,自立为汉天王。刘聪族弟刘曜在长安称帝,改国号为赵,消灭了靳氏。因百姓负担极重,民怨沸腾,引起大规模反抗。328年,羯人石勒擒杀刘曜,次年在上邽杀其太子刘熙及其将相公卿等三千余人,赵亡。史称前赵或汉赵。匈奴在中国北方衰落后,鲜卑人迅速进入蒙古高原,匈奴与鲜卑不断混血通婚,后代称为铁弗人。铁弗人赫连勃勃被鲜卑拓跋氏击败后投奔羌人的后秦。之后击败东晋军队,夺下了关中地区,以长安为都。425年赫连勃勃卒,子赫连昌继位。428年北魏俘赫连昌。赫连昌弟赫连定在平凉自称夏皇帝。431年北魏俘赫连定,夏亡。夏国的国都统万城是作为游牧民族的匈奴在东亚留下的唯一的遗迹。融入匈奴人中的月氏人,称为匈奴别部卢水胡。其中沮渠家族推后凉汉官段业为主,在现甘肃地区建立政权,史称北凉。后沮渠蒙逊杀段业,自立为北凉主。433年蒙逊子沮渠牧犍继位。439年被鲜卑人拓跋氏北魏所灭。牧犍弟沮渠无讳西行至高昌,建立高昌北凉。460年,高昌北凉为柔然所攻灭。融入靠近高句丽的宇文鲜卑部落的一小支匈奴,进入辽东半岛。一小支匈奴进入辽东半岛,融入靠近高句丽的宇文鲜卑部落。后来宇文氏篡西魏建立的北周政权。之后杨坚篡夺北周政权,建立隋朝,并统一中原。匈奴也在这期间融入各民族之中。五胡乱华及南北朝时代成为匈奴在中国历史舞台上的最后一场演出。匈奴人信奉萨满教,五月于龙城祭天地、祖先、鬼神。匈奴每年有规定的日子举行集体的祭祀。每年三次集会的日期,《史记》说是正月、五月及秋季,《后汉书》为正月、五月及九月,两者皆为一致。大致上,正月的集会是个小集会,参加的人是匈奴诸长。五月的大会最富宗教色彩,参加的人数很多,主要是为祭其先祖、天地及鬼神。秋季的集会则是为秋天收成而感谢天神的集会。关于集体祭祀的地点,大致上是在单于所在的地方举行,虽然都是祭天,同时也有商讨国家大计、秋后感谢天神等任务。匈奴人对其祖宗的坟墓很为重视,不只相信祖宗死后有神灵,其他人死后也有神灵,也可以降吉凶。也相信人死后,需要享用金银衣裘以及女人。在战争时,匈奴人还相信各种巫术。其内容如下:“曩者,朕之不明,以军候弘上书言“匈奴缚马前后足,置城下,驰言‘秦人,我丏若马’”,又汉使者久留不还,故兴遣贰师将军,欲以为使者威重也。古者卿大夫与谋,参以蓍龟,不吉不行。乃者以缚马书遍视丞相御史二千石诸大夫郎为文学者,乃至郡属国都尉成忠、赵破奴等,皆以“虏自缚其马,不祥甚哉!”或以为“欲以见强,夫不足者视人有余。”易之,卦得大过,爻在九五,匈奴困败。公车方士、太史治星望气,及太卜龟蓍,皆以为吉,匈奴必破,时不可再得也。又曰‘北伐行将,于釜山必克。”卦诸将,贰师最吉。故朕亲发贰师下釜山,诏之必毋深入。今计谋卦兆皆反缪。重合侯得虏侯者,言“闻汉军当来,匈奴使巫埋羊牛所出诸道及水上以诅军。单于遗天子马裘,常使巫祝之。缚马者,诅军事也。’又卜“汉军一将不吉”。匈奴常言‘汉极大,然不能饥渴,失一狼,走千羊。’乃者贰师败,军士死略离散,悲痛常在朕心。”司马迁《史记》、班固《汉书》皆言“毋文书,以言语为约束”。桓宽《盐铁论·论功》却说“虽无礼义之书,刻骨卷木,百官有以相记”。此盖指汉文帝时嫁予单于的宗女,随从宗女身边的官员中行说,教导匈奴单于左右疏记及计算畜物数目。《后汉书》中有一首《匈奴歌》,不少学者用蒙古语、突厥语、叶尼塞语言等进行过分析和解读,都没有得到理想的结果。除此之外,匈奴的人名、部落名、地名和称号都可以用来研究匈奴语。例如:“撑犁孤涂单于”据说在匈奴语中有“天子”的意思,其中的“撑犁”(上古汉语: thrang rii)和“单于”(上古汉语:dar wa)分别和蒙古语的tngri(天)和daruγa(君主)相似。