收复建昌郡后，复称陈留郡，还属兖州，后屡失陷。晋安帝义熙十二年（416年），东晋再次收复陈留郡，为区别于侨置的陈留郡，改称北陈留郡。晋恭帝元熙元年（419年）至二年（420年），北陈留郡为刘裕宋国二十郡之一。
南北朝.宋武帝永初元年（420年），复北陈留郡为陈留郡。至此，陈留郡领六县：酸枣、小黄、雍丘、白马、襄邑、尉氏。北魏明元帝泰常七年（422年），攻佔南朝宋陈留郡。后复置封丘县。太平真君八年（447年），小黄县併入济阳郡外黄县。太平真君九年（448年），封丘县併入酸枣县