，秦代蒙恬西击胡人，重新佔有此地为新秦中，属九原郡。汉武帝元朔二年（前127年），卫青破匈奴楼烦王与白羊王，佔有河南地，置五原郡、朔方郡。朔方郡治所在朔方县（县治在今内蒙古鄂尔多斯杭锦旗北）。隶属于朔方刺史部。东汉时移治临戎县，属并州，后侨置于五原郡内。建安二十年（215年）废。北魏、隋于夏州（今陕西境内）复置朔方郡。唐初废朔方郡，唐玄宗开元九年（721年），另设朔方节度使，治所在灵州（今宁夏吴忠西北古城镇）。
郡名起源.朔方，北方之意。《尚书》尧典：“申命和叔，宅朔方。”