楚灭越后属楚。秦朝时，舟山羣岛属会稽郡鄮县。隋开皇九年（589年），改会稽郡爲吴州，舟山羣岛属句章县。唐开元二十六年（738年）置县，以境内有翁山而命名为翁山县，属明州，史上群岛置县之始。县治位于镇鳌山麓，筑周长五里的城池，城市开始发展。33年后，至大历六年（771年），翁山县因被袁晁率起义军占领而被撤废县治，重新归鄮县。北宋年间，朝廷在全面分析海上丝绸之路贸易之后，认识到舟山群岛海岛防务对发展经济、保护贸易的重要意义。在宰相王安石的建议下，北宋熙宁六年（1073年）六月，宋神宗赵顼颁诏，以旧翁山县