桓诸部落原本附属于匈奴国。窦宪联合北方各游牧部落，击破北匈奴，北匈奴朝西北遁去，鲜卑部落入主蒙古高原。而匈奴余部还有大约十余万部落，皆跟随自称鲜卑，自此鲜卑开始兴起。东汉末叶，檀石槐为首领，指挥各位领袖。鲜卑在檀石槐领导下，多次掳掠、杀掠东汉的幽州、并州、凉州边境诸郡。177年，汉朝三路出击反攻：夏育从高柳（今山西阳高），田晏从云中，臧旻率南匈奴单于从雁门，「各将万骑，三道出塞二千余里」，结果汉军惨败，死者十之七八。其后不久（181年），檀石槐逝世，一时无一位能指挥各领袖；鲜卑暂时衰落。