周代，世袭任国。秦灭任国，置任城县，即今济宁。
先秦.《禹贡》有“济河惟兖州。”又有“海、岱及淮惟徐州。”《尔雅》有“济河间曰兖州，济东曰徐州。”可知上古时代济宁地区除西北小部属兖州外，其余地区皆属徐州。而今兖州区得名兖州源于南北朝，将于之后详述。至周成王时，徐州不再列于九州之中，其地分入青、兖二州。济宁地区于此时归入兖州。
五代、宋、金.后周广顺二年（952年），割郓州之鉅野、郓城，兖州之任城，单州之金乡等4县置济州，治巨野。济州因濒临济水而得名，此