济河间曰兖州，济东曰徐州。”可知上古时代济宁地区除西北小部属兖州外，其余地区皆属徐州。而今兖州区得名兖州源于南北朝，将于之后详述。至周成王时，徐州不再列于九州之中，其地分入青、兖二州。济宁地区于此时归入兖州。
五代、宋、金.后周广顺二年（952年），割郓州之鉅野、郓城，兖州之任城，单州之金乡等4县置济州，治巨野。济州因濒临济水而得名，此为济宁得名之源头。宋朝济州建制未变。兖州则升为袭庆府，辖瑕县、仙源、泗水、邹县及奉符、莱芜等县。建炎元年（金太宗天会五年，1127年）十