世纪中期，鲜卑在檀石槐的领导下崛起，并而建立了鲜卑国，佔领了蒙古地区和中国汉朝北部的一些地区。并进一步渗入魏晋时期的中国北部边疆，到五胡十六国时期。分别有有慕容鲜卑、秃发鲜卑、乞伏鲜卑、段氏鲜卑、宇文鲜卑、拓跋鲜卑建立的国家；386年，鲜卑的一支拓跋建立北魏，统一了五胡十六国之后的中国北部，维持统治直到581年。这个时期在蒙古地区活跃的民族还有敕勒。
柔然汗国时期.402年，拓跋鲜卑的别支（奴隶）柔然的首领社仑称可汗。在之后的一百年中柔然称雄蒙古草原。北魏和柔然之间发生了多次战争。