废郡，兖州三郡领县直属于州，併岱山县入奉高县。至此，兖州领十二县：鲁、汶阳、邹、乐平、平原（故任城郡所领）、任城、高平（故高平郡所领）、梁父、嬴、博、奉高、须昌（故东平郡所领）。开皇四年（584年），改鲁县为汶阳县。开皇六年（586年），改奉高县为岱山县。开皇十年（590年），割须昌县属郓州。开皇十三年（593年），分邹、汶阳、平原三县置瑕丘县，瑕丘城由汶阳县移属瑕丘县。开皇十六年（596年），改汶阳县为曲阜县，乐平县为平陆县，平原县为龚丘县，博县为汶阳县；分嬴县置牟城县，汶阳县置泗水县；割汶阳、岱山二