汉朝将乌桓迁居至上谷等五郡塞外（含今内蒙古部分地区），设置护乌桓校尉管理。汉武帝两次在今内蒙古境内修筑长城。第一次主要沿用、改进秦长城，第二次新建了汉外长城。在长城沿线，汉代修筑了城障、塞亭、烽火台、边城。西汉神爵二年，匈奴虚闾权渠单于死去，匈奴内乱，唿韩邪、屠耆、唿揭、车犁、乌籍等五人纷纷自称单于，互相攻战。唿韩邪单于取胜后，闰振、郅支二人自立为单于。郅支攻灭闰振之后，又击败唿韩邪，占领单于庭。唿韩邪南下归降汉朝，取道五原入长安城拜见汉宣帝。唿韩邪向汉帝称臣，汉朝则颁发金玺等物册封单于。匈奴不需向朝廷纳税