县境内置新兴郡，侨置定襄县、云中县、九原县、广牧县等县，以管理四郡的内迁人口。北魏时，汉代定襄郡故地属朔州、恒州。隋开皇五年（585年）置云州总管府。大业三年（607年）改州为郡，复置定襄郡，仅领一县：大利县（治所在今和林格尔县境内），有374户。唐龙朔三年（663年）置云中都护府，治所在今和林格尔县。麟德元年（664年）改为单于大都护府。