西汉元鼎三年（前114年）始置原平县，属太原郡。东汉建安十五年移置为云中县，属新兴郡。建安十八年复原平县，属雁门郡。三国时仍为原平县属雁门郡。西晋时永嘉末陷（侨置崞县于今崞阳城）。十六国前期属雁门郡原平县境地，后县治移至今崞阳（至1958年12月）。东晋元兴二年（410年）置石城县（今崞阳），隶属秀容郡。武定四年（547年）改为廓州，领广安、永定、建安三郡。北齐时为北显州属并州省，北周又复石城县属并州总管府。隋开皇五年（585年）复改石城县，十年（591年）属平寇县，至大业二年（606年）改名崞县。