至此，东平郡领二县：寿张、淮安。梁武帝时，改东平郡为淮阴郡。太清元年（547年），以淮阴等郡置淮州（治淮阴郡怀恩县淮阴城，在今江苏省淮安市淮阴区西南甘罗城）。至此，淮阴郡领三县，怀恩、富陵、鲁，治怀恩县淮阴城。东魏孝静帝武定七年（549年），因侯景之乱取南朝梁淮州，淮阴郡仍属之。北齐文宣帝天保七年（556年），富陵、鲁二县併入怀恩县。至此，淮阴郡仅领怀恩一县。陈宣帝太建七年（573年）北伐，攻佔北齐淮阴郡，复改淮阴郡为东平郡，怀恩县为寿张县。北周静帝大象元年（579年），攻佔南朝陈淮阴郡。隋文帝