改兖州为鲁州，併牟城县入嬴县，併高平县入邹县；废泰州为博城县，属鲁州。大业三年（607年），改鲁州为鲁郡。魏永平元年（617年），改鲁郡为兖州。至此，兖州领十县：瑕丘、邹、曲阜、泗水、平陆、龚丘、任城、梁父、嬴、博城。永平二年（618年），兖州陷于宇文化及之许，复为鲁郡。
唐朝.唐朝武德二年（619年），佔领鲁郡，改为兖州，不久即陷于窦夏，次年又陷于郑。武德四年（621年），再次佔领兖州。武德五年（622年），兖州治所瑕丘陷于汉，故置行兖州于郓州，割梁父、嬴、博城三县置东泰州。