元康元年（291年），分东海郡为东海国、兰陵国，以封司马越、卫瓘。兰陵国治承县（今山东省枣庄市东南、兰陵县西南），属徐州，领承、兰陵、昌虑、合乡、戚五县，辖境约今山东省枣庄市大部及兰陵县西南。晋怀帝永嘉中，徙封兰陵公于江夏郡，东海王司马越增封兰陵郡。后赵六年（324年），攻取东晋兰陵郡。赵武帝时，改兰陵郡为武兴郡。晋穆帝永和七年（351年），收复兰陵郡，永和十一年（355年）又为前燕所取，后又收复。前秦建元十五年（379年），攻取东晋兰陵郡。晋孝武帝太元九年（384年），收复兰陵郡。至刘宋时，兰陵郡