隋置共城县。金代时，先改为河平县，金贞祐四年（1216年）改辉州，因山下百泉湖畔建有清辉殿得名。直到明初洪武年间降为辉县。清代属卫辉府管辖（治所在汲县）。1988年撤县设市，但仅在辉县后加“市”字，称作“辉县市”，并使用至今，成为中国目前仅有的名称中带“县”字的城市。与辉县有关的历史有：上古时代的共工部落；大禹治水；西周初年的共伯；春秋时期郑国的段；战国时代六国最后一个君主齐王建被流放并死于此；西晋初年的竹林七贤；北宋中叶邵雍在此学习易经；北宋末年王彦、岳飞、八字军在此战斗；元初耶律楚材晚年隐居于此地；