后以淮阴的东平郡流民侨置东平郡，属北兖州。无实土、领县、治所，民户散居在今江苏省淮安市一带。齐武帝永明七年（489年），割山阳郡而有实土，以官渎以西三百户侨置寿张县，以直渎、破釜以东的淮阴镇下流杂一百户置淮安县。至此，东平郡领二县：寿张、淮安。梁武帝时，改东平郡为淮阴郡。太清元年（547年），以淮阴等郡置淮州（治淮阴郡怀恩县淮阴城，在今江苏省淮安市淮阴区西南甘罗城）。至此，淮阴郡领三县，怀恩、富陵、鲁，治怀恩县淮阴城。东魏孝静帝武定七年（549年），因侯景之乱取南朝梁淮州，淮阴郡仍属之。北齐文宣