县西北部的枣烟、大梁丁以及盂县西烟镇均曾发现过旧石器。西周至春秋时期，阳泉属于晋国。战国时期，阳泉属于赵国。秦统一中国后，阳泉归太原郡管辖。西汉建元元年（公元前140年），设上艾县，县治在今天的平定县张庄镇新城村，阳泉归辖于上艾县。唐天宝元年（742年），上艾县更名广阳县，县治迁至今昔阳县广阳村。北宋太平兴国四年（979年），广阳县更名为平定县，县治迁回平定县。金，平定县改称平定州。元代，元好问《遗山集》卷第七〈阳泉栖云道院〉即记载阳泉。清代，干隆版《平定州志》：将阳泉春