和十二年（488年），分魏昌县复置毋极县。宣武帝景明元年（500年），分新市县复置上曲阳县，仍属中山郡。孝明帝孝昌中（525年－528年），分中山郡北平、蒲阴、望都三县置北平郡。至此，中山郡领七县：卢奴、新市、上曲阳、唐、安喜、魏昌、毋极。北齐文宣帝天保七年（556年），省併卢奴、唐、魏昌三县；改上曲阳县为曲阳县；废北平郡，其所领蒲阴、望都二县併入北平县，改属中山郡。至此，中山郡领五县：新市、曲阳、安喜、毋极、北平。隋文帝开皇元年（581年），因避讳改中山郡为鲜虞郡。开皇三年（583年），废鲜虞郡，