大约与此同时，阴山一带的匈奴也走向兴盛。始皇三十二年，蒙恬统兵三十万大败匈奴，秦国夺得河套地区。始皇三十三年，蒙恬带兵越过黄河，击败匈奴，夺得高阙、阳山、北假中等地。匈奴头曼单于率部北撤。为巩固北方边疆，秦始皇令蒙恬率三十万兵士驻屯上郡（治所属今陕西省榆林市，上郡辖区包括内蒙古部分地区）。秦国大规模派遣犯人到北部边境，利用战国时代燕、赵、秦国修筑的长城，修起西起临洮、东至辽东的长城。在长城沿线，秦国修筑了城障、烽火台等军事设施。秦代时，内蒙古首次纳入中原统一王朝的行政管辖。秦朝在北部新征服的地域内设置郡县，