元年，北匈奴为鲜卑所破，单于被杀，其中五十八部降汉。永元八年，车骑将军窦宪等征伐北匈奴余部，单于遁逃，窦宪在燕然山刻石纪功而还。此后，一些北匈奴南降东汉，另外一些则向西迁徙。而北匈奴故地逐渐为鲜卑侵占。东汉后期，附属于汉的南匈奴由于受鲜卑压迫，屯居于五原、朔方、云中、西河、美稷一带，并逐步向内郡移徙。随着时间的推移，使匈奴中郎将权力越来大，甚至擅行废立匈奴单于。。汉末黄巾之乱，南匈奴接受朝廷征调，进入内地镇压黄巾军。由于政治动荡，这支军队单于于夫罗率领下，在汉灵帝驾崩后，乘黄巾之乱，跟白