隋朝开皇九年（589年），撤销南海郡，置广州总管府，仁寿元年（601年），因避隋炀帝名讳而改名番州，大业三年（607年）又改为南海郡。户三万七千四百八十二，下辖十五县：南海县、曲江县、始兴县、翁源县、增城县、宝安县、乐昌县、四会县、化蒙县、清远县、浛洭县、政宾县、怀集县、新会县、义宁县。唐朝武德四年（621年）废南海郡，复置广州。天宝元年（742年）改广州为南海郡。干元元年（758年）复郡为州，南海郡又改广州。