北匈奴不断寇扰东汉的北部的缘边郡县。公元73年（永平十六年），东汉王朝大举反击，窦固等分兵四路，取得很大的军事胜利，往北追至蒲类海（新疆巴里坤湖），并留屯于伊吾卢城（新疆哈密）。到汉章帝时，北匈奴日益衰弱，先后有数十万口入塞投降。公元89年（永元元年），窦宪、耿秉等率领汉军会合南匈奴大举北进，与北单于交战，连战皆捷，降者前后二十余万人。在以后的二年内，北匈奴不断失败，向西迁移。以后，北匈奴的一部分越过中亚、西亚迁往欧洲。从这时起，匈奴东面的鲜卑族逐步西进，占据了匈奴的故地。