蒙古地区有四大以游牧为生的部落：丁零、月氏、匈奴、东胡。前209年，匈奴的冒顿单于建立了今蒙古地区历史上的第一个国家。匈奴成为强大的游牧部落，并与秦朝、汉朝长期对立。然而，强大的游牧帝国并没有长久。经过激烈的内部纷争和外来的军事打击后逐步走向衰落，虽然在新朝时期，由于赤眉、绿林起义而统一并连年入侵，但是后来在48年匈奴分成南北两个匈奴，155年在鲜卑人征伐下北匈奴崩溃，最终在158年被丁零人打败；在216年南匈奴被曹操一分为五。秦、汉帝国在漠南地区南部设置郡县。
鲜卑汗国时期.鲜卑