于太原郡阳曲县故地，即新兴郡九原县（在今山西忻州）。
十六国至南北朝.十六国后赵收河南地置朔方郡。前秦灭鲜卑代国，复置五原郡。后其地入北魏。北魏太和中，五原郡故地分属怀朔镇、夏州、朔州。
隋代五原郡.隋开皇五年（585年）置丰州。仁寿元年（601年）置总管府，大业元年（605年）废府，三年（607年）改为五原郡，领三县，有2330户。唐贞观四年（631年）置丰州都督府，不领县。二十三年（650年）置丰州，领九原、永丰二县。开元二年（714年）迁安北督护府治