地是共工族的居住地，今城南的孟庄遗址，就是当时人类活动的遗存。该地夏属冀州之域, 殷商时为畿内地。周称凡国、共国。相传周朝共和元年（前841年），执政的共公的封地就在该地。《诗经·卫风》篇里“毖波泉水，亦流于淇”，即是指城西北的百泉湖。西周时该地为共国，西汉置共县，隋置共城县。金代时，先改为河平县，金贞祐四年（1216年）改辉州，因山下百泉湖畔建有清辉殿得名。直到明初洪武年间降为辉县。清代属卫辉府管辖（治所在汲县）。1988年撤县设市，但仅在辉县后加“市”字，称作“辉县市”，并使用至今，成为中国目前仅有的名