于577年被北周所灭，上党郡归之。北周建德七年（578年），北周武帝宇文邕分上党郡置潞州，是为潞州建置之始，上党郡属潞州。潞州得名于潞子之国。隋开皇元年（北周大定元年，581年），杨坚取代北周，隋朝开国。开皇三年（583年），废上党郡，移潞州于壶关。大业元年（605年），改潞州为上党郡，隶冀州。619年，隋朝被王世充所灭。随后，唐朝建立。此间未改行政区划。唐武德年间，改上党郡为潞州，并置都督府。唐玄宗开元十七年（729年），以玄宗李隆基曾任潞州别驾的原故，设大都督府，并置上党郡。开元二十一年（733年）