灭吴国，改新都郡为新安郡。南北朝时期，新安郡归属南朝。
隋唐至清末.隋朝重新统一中国后，开皇九年（589年），改新安郡为歙州。大业三年（公元607年），复改歙州为新安郡。隋末动乱，大业十二年，歙县人汪华起兵占据歙州及宣、杭、睦、婺、饶共6州，号称吴王。唐武德四年（公元621年），汪华归附唐朝，被封为越国公。复改新安郡为歙州，州治歙县。此后，经多次析置调整，至唐大历五年（公元770年），歙州辖歙、休宁、黝、绩溪、婺源、祁门六县，从此辖境和属县没有重大变动，形成延续至清末达一千两百多年