五城、定阳三郡陷于吐京胡，寄治于西河郡，州治迁至西河郡隰城县兹氏城（今山西省汾阳市）。北齐初，改汾州为南朔州。
唐宋.唐朝武德三年（620年），改浩州（领隰城、永安二县）复置汾州，割并州文水县属汾州。贞观元年（627年），废介州，其所领介休、平遥二县改属汾州，文水县还属并州，改永安县为孝义县。贞观十七年（643年），废吕州，其所领灵石县改属汾州。至此，汾州领五县：隰城、孝义、介休、平遥、灵石。天宝元年（742年），改汾州为西河郡。至德元载（756年），西河郡隶河东节度使。干