南齐高帝建元元年（479年），于建康以北瓜步侨置齐郡，治临淄，属南青州。梁初移至上鲜。北魏齐郡属青州，领九县：临淄、昌国、益都、盘阳、平昌、广饶、西安、安平、广川。皇兴三年（469年），以济南郡、东魏郡、东平原郡、东清河郡、广川郡、太原郡置齐州。北齐天保七年（556年），废临淄县，以其地属齐郡高阳县。北周时齐郡仅领三县：益都，昌国、广饶，治益都。
隋唐.隋开皇三年（583年），罢天下诸郡，以州统县。废齐郡、济南郡，其地分属青州、齐州。开皇十六年（596年），于青州置临淄县、溡水