人土着和一些避入山林的汉人，“依山阻险，不纳王租”，被称为“山越”。建安十三年（公元208年）。吴主孙权派遣威武中郎将贺齐征服歙县金奇、毛甘，黟县陈仆、祖山等山越部落后，分歙县东乡地置始新县，南乡地置新定县，西乡地置黎阳、休阳县，加黟、歙共六县建新都郡。西晋太康元年（公元280年）灭吴国，改新都郡为新安郡。南北朝时期，新安郡归属南朝。
隋唐至清末.隋朝重新统一中国后，开皇九年（589年），改新安郡为歙州。大业三年（公元607年），复改歙州为新安郡。隋末动乱，大业十二年，歙县人汪华起