平定在战国时期属赵国，称上艾邑。西汉时，韩信攻打赵国，曾在此驻兵，并修建城池，以榆树塞门，故名榆关城，也就是后来的上城。不久西汉将上艾邑改为上艾县，归太原郡管理，县城在今日县城南边的张庄镇新城村。曹魏黄初元年（公元220年），归乐平郡管理。北魏建国元年（公元386年），因胡语谐音更名为石艾县。北魏太平真君九年（公元448年），改名为上艾县。唐朝天宝元年（公元742年），改名为广阳县，县城迁至现在昔阳县的广阳村。北宋太平兴国二年（公元977年），宋太宗赵光义在广阳建立了平定军，归镇州