七年（489年），割山阳郡而有实土，以官渎以西三百户侨置寿张县，以直渎、破釜以东的淮阴镇下流杂一百户置淮安县。至此，东平郡领二县：寿张、淮安。梁武帝时，改东平郡为淮阴郡。太清元年（547年），以淮阴等郡置淮州（治淮阴郡怀恩县淮阴城，在今江苏省淮安市淮阴区西南甘罗城）。至此，淮阴郡领三县，怀恩、富陵、鲁，治怀恩县淮阴城。东魏孝静帝武定七年（549年），因侯景之乱取南朝梁淮州，淮阴郡仍属之。北齐文宣帝天保七年（556年），富陵、鲁二县併入怀恩县。至此，淮阴郡仅领怀恩一县。陈宣帝太建七年（573年）北