常山县历史悠久,五六千年前的新石器时代就有人类居住。春秋时期为越国姑篾之地,战国归楚,秦属会稽郡太末县。建县历史长达1800年。东汉末初平三年(192年),分太末县置新安县(县治在今衢江、柯城二区);建安二十三年(218年),分新安县置定阳县,为常山建县之始,县治设在前定阳乡三冈(今何家乡钱塘村一带),初属会稽郡,隶扬州刺史部。其范围包括今衢州市区的西南部及常山、开化、江山和江西玉山及以西(见《中国历史地图集》)。吴宝鼎元年(266年),定阳县改属东阳郡;两晋不变;南朝梁陈时曾隶缙州,属信安郡。隋朝大业三年(607年),定阳县并入信安县,隶东阳郡。唐朝武德四年(621年),分信安县复置定阳县,县治仍在定阳乡三冈,范围包括今常山、开化及江西玉山县一部分;武德八年(625年),定阳县并入信安县,属婺州;咸亨五年(674年),分信安在原定阳县地置常山县,以县治南有常山(又名长山,即今湖山)命名,以常山县为名自此始,县治设在前常山乡(今招贤镇之古县、古县畈一带);证圣元年(695年),分常山、须江(今江山)、弋阳之一部置玉山县;乾元元年(758年),常山县曾一度划归信州(今江西省上饶),不久仍属衢州;广德二年(764年),县治迁至旧县治西40里常山镇巡检司(今天马街道)。宋朝乾德四年(966年),吴越王钱俶分常山县西镜7乡置开化场;太平兴国六年(981年)升开化场为开化县;淳化四年(993年),常山属两浙道衢州;至道三年(997年),常山属两浙路;熙宁七年(1074年),常山属浙东路;南宋咸淳三年(1267年),常山县改称信安县。元朝至元十三年(1276年)复称常山县,属两浙都督府(安抚司)衢州路总管府;至元二十一年(1284年),隶江淮行省衢州路;至元二十八年(1291年),隶浙江等处行中书省浙东道宣慰司衢州路;元至正十九年(1359年),改衢州路为龙游府,治所西安县;元至正二十六年(1366年),又改龙游府为衢州府,包括西安、龙游、江山、常山、开化,隶浙江等处行中书省金衢道。明朝洪武九年(1376年),常山县隶浙江承宣布政使司金衢道衢州府。清朝顺治三年(1646年),清兵攻占常山,常山属浙江省金衢严道衢州府;宣统三年(1911年)11月8日,常山光复,成立县军政分府,改知县为民事长。民国元年(1912年),常山县隶浙江省金衢严道,民国三年(1914年)属金华道。民国十六年(1927年)废道制,实行省、县二级制,常山县属浙江省。民国二十四年(1935年),省县间设行政督察区,常山属浙江省第五行政督察区,署址衢县(今柯城区)。民国三十七年(1948年)4月,常山县改属第四行政督察区,署址淳安;同年8月改属第三行政督察区,署址江山。民国三十八年(1949年)5月4日,常山县解放,初属浙江省衢州军管会。1950年5月,设衢州专员公署,常山县属衢州专区。1955年3月,撤衢州专区,改属金华专区,常山县属金华专区。1958年10月,常山县并入衢县。1961年10月,恢复常山县建制。1970年,金华专区改称金华地区,常山县属金华地区。1985年7月实行市管县,金华地区分设金华、衢州二市,常山县属衢州市。