朝北魏统一北方后，分属并州太原郡、武乡郡、乐平郡、上党郡和汾州西河郡。隋初废郡设州，改属并、介、韩、辽、吕5州。后废州复郡，属太原、西河2郡，后又改属太原、介休、霍山3郡。唐代建置变化频繁，先后属并、介、吕、韩、太、辽、榆、受、箕、汾、仪等州及太原府，至中和三年（883年）为太原府和汾、辽2州统领。北宋时期，属河东路太原府、汾州、辽州、平定军。宋末为金国所占。元代分属冀宁路和晋宁路。明清两代，分属于太原、汾州、平阳3府和辽、平定、霍州3个直隶州。民国初期，全境分属冀宁道和河东道。民国16年（1927年），