太祖吴元年，1367年），徐达、常遇春北上平定山东，张兴祖取东平、济宁。济宁改路为府。洪武十八年（1385年）降济宁为州，省州治任城县，其地由州直辖，另辖嘉祥、巨野、郓城三县。升兖州为府，而济宁州隶属之。自此，明清两代不复置任城县，只称济宁州。明时兖州府辖鲁南四州二十三县，西至曹州，东至沂州，治滋阳。
清.崇祯十七年（顺治元年，1644年）清军入关，巴哈纳、石廷柱攻取山东。清初山东府县沿用明朝建制。雍正二年（1724年）济宁升为直隶州，八年（1730年）复降属兖州府，巨野、