书·地理志》黟县得名于县城南方产石墨的墨岭山（今为青岭山）。西汉鸿嘉二年（公元前19年）六月，黝县改为广德国。鸿嘉五年，广德国被废除，复称黝县。王莽始建国二年（公元10年），黝县改称朔卤，属丹阳郡。建武元年（公元25年），复称黝县。按《宋书·州郡志》孙权于建安十三年分丹阳郡置新都郡，晋武帝改名新安郡，黟县与歙县都属于新安郡。隋灭陈后，一度废止了黟县，又于大业十一年恢复了建置。宋代的黟县隶属江南东路的徽州，在重要程度上被评为“紧”。元代则隶属于徽州路，被评为“下”县。1950年属太平、石台的美溪、柯村