改山阳郡为高平国，治所在昌邑县（今山东省巨野县南），属兖州。辖境相当今独山湖及金乡、巨野、邹城等市县之间地。高平国领七县（侯国）：昌邑（侯国）、鉅野、方与、金乡、湖陆、高平（侯国）、南平阳（侯国）。永嘉之乱后，后赵改高平国为高平郡，后为东晋所收复。晋废帝太和元年（366年），前燕攻陷高平郡。太和四年（369年），东晋收复高平郡。晋孝武帝太元十二年（387年），翟魏攻陷高平郡，收复后又一度为前秦所占领。太元十九年（394年），后燕攻陷高平郡。晋安帝义熙五年（409年），刘裕北伐南燕，收复高平郡，为了区别于