胡羌侵扰，曹操“省云中、定襄、五原、朔方郡”，割太原郡北部置新兴郡。五原郡人口被安置于太原郡阳曲县故地，即新兴郡九原县（在今山西忻州）。
十六国至南北朝.十六国后赵收河南地置朔方郡。前秦灭鲜卑代国，复置五原郡。后其地入北魏。北魏太和中，五原郡故地分属怀朔镇、夏州、朔州。
隋代五原郡.隋开皇五年（585年）置丰州。仁寿元年（601年）置总管府，大业元年（605年）废府，三年（607年）改为五原郡，领三县，有2330户。唐贞观四年（631年）置丰州都督府，不领