山西长城的现存遗迹按朝代可分为战国长城、东魏长城、北齐长城、北周长城、隋长城、宋长城、明长城、清长城。其中以明代修筑的长城规模为最大,前后共修筑了154年。作为当时拱卫京都的屏障,明长城分外长城和内长城,外长城长约450公里,由河北省怀安县延入晋北的天镇县,向西再向西南,经阳高、大同新荣区、左云、右玉、平鲁、偏关,直达黄河东岸;内长城长约400公里,由河北省涞源县延入灵丘县,向西再向西北,经繁峙、浑源、应县、山阴、代县、原平、宁武、神池、朔州朔城区,至偏关白羊岭(古称丫角山)与外长城会合。另外还有沿黄河修筑的从偏关老牛湾到河曲县石梯子的长城,沿太行山脊修筑的始于灵丘县牛邦口经五台、盂县、平定、昔阳、和顺、左权至黎城东阳关的长城。全国罕见的宋代长城分布在山西省忻州市岢岚县王家岔乡。