辖东平陵、历城、祝阿、漯阴、着、台、菅、东朝阳、邹平、梁邹、土鼓、于陵，共十二县。魏灭蜀汉后，迁蜀地豪族于济南郡北部，置济岷郡。西晋太康初，济南国除为郡，改东平陵为平陵，以东朝阳、梁邹入乐安郡。怀帝永嘉中移治历城县。十六国时期先后为后赵、前燕、前秦、后燕、南燕所据。义熙四年（410年），刘裕灭南燕，复归东晋。
南北朝、隋唐.宋初，济南郡属青州，领历城、朝阳、着、土鼓、逄陵、平陵六县。元嘉九年（432年），侨置冀州于历城。宋明帝泰始四年（468年），魏将慕容白曜攻佔历城，济南入北