永嘉中移治历城县。十六国时期先后为后赵、前燕、前秦、后燕、南燕所据。义熙四年（410年），刘裕灭南燕，复归东晋。
南北朝、隋唐.宋初，济南郡属青州，领历城、朝阳、着、土鼓、逄陵、平陵六县。元嘉九年（432年），侨置冀州于历城。宋明帝泰始四年（468年），魏将慕容白曜攻佔历城，济南入北魏。北魏置齐州，辖济南、东魏、广川、东平原、东清河等郡。北魏承明元年（476年），以拓跋罗拔为济南王。太和七年（483年），济南国除为郡。隋开皇三年（583年）废济南郡。大业三年（607年），改齐州