（527年），割济阴郡属西兖州。永安二年（529年），割东泰山郡属北徐州。至此，兖州领六郡：鲁郡、泰山郡、高平郡、任城郡、东平郡、东阳平郡。北齐天保七年（556年），併鲁、任城二郡为任城郡，泰山、东平、东阳平三郡为东平郡。至此，兖州领三郡：任城郡、东平郡、高平郡。
隋朝.隋朝开皇三年（583年）废郡，兖州三郡领县直属于州，併岱山县入奉高县。至此，兖州领十二县：鲁、汶阳、邹、乐平、平原（故任城郡所领）、任城、高平（故高平郡所领）、梁父、嬴、博、奉高、须昌（故东平郡所领）。开皇