周成王时，徐州不再列于九州之中，其地分入青、兖二州。济宁地区于此时归入兖州。
五代、宋、金.后周广顺二年（952年），割郓州之鉅野、郓城，兖州之任城，单州之金乡等4县置济州，治巨野。济州因濒临济水而得名，此为济宁得名之源头。宋朝济州建制未变。兖州则升为袭庆府，辖瑕县、仙源、泗水、邹县及奉符、莱芜等县。建炎元年（金太宗天会五年，1127年）十一月，金军多路攻宋。至建炎三年（天会七年，1129年）京东两路皆已沦陷。天会八年（建炎四年，1130年），金割黄河以南为齐国，立刘豫