汉代公元前164年设立济南国，公元前154年又废国改郡。汉灵帝时，曹操曾任济南相。西晋永嘉(307～312年)年间，济南郡治由东平陵移至历城。隋朝开皇三年(583年)，改济南郡为齐州。这段时期济南的佛教比较兴盛，留有千佛山、灵岩寺、千佛崖石窟造像、四门塔（中国现存最古老的石塔）等佛教遗迹。到了宋代济南属京东路，沿称齐州。宋徽宗政和六年（公元1116年），齐州升为济南府。曾巩任职于济南时曾各种赋诗撰文，促进了济南文学的发展。南宋年间，济南的文学更加繁荣，出现了李清照、辛弃疾等中国历史上的着名宋词作家，