隋开皇元年（北周大定元年，581年），杨坚取代北周，隋朝开国。开皇三年（583年），废上党郡，移潞州于壶关。大业元年（605年），改潞州为上党郡，隶冀州。619年，隋朝被王世充所灭。随后，唐朝建立。此间未改行政区划。唐武德年间，改上党郡为潞州，并置都督府。唐玄宗开元十七年（729年），以玄宗李隆基曾任潞州别驾的原故，设大都督府，并置上党郡。开元二十一年（733年），潞州、上党郡属河东道。大历元年（766年），置昭义军（至德初称为“上党节度使”，宝应初改称“泽潞节度使”）。五代后唐庄宗初，置潞州。梁末帝时