所在晋阳县（今山西省太原市西南）。范围在今山西省中部以北的太原、长治、晋城、晋中、阳泉4市全境，吕梁、忻州2市中东部，大同、朔州2市南部一带。永兴元年（304年）刘渊在平阳建立汉国以后，除太原郡一带，并州各地大多沦陷。建兴四年（316年）十二月，并州刺史刘琨弃守晋阳逃亡幽州，并州全境易手。
郡级行政区.西晋并州领太原、上党、西河、乐平、雁门、新兴6郡，至西晋末不变。