过渡到南朝宋，北府军一直作为朝廷军队主力，但永初三年（422年）北魏乘刘裕去世而攻夺昔日刘裕北伐而取的河南土地，时以北府名将、兖州刺史檀道济领军援救北方，然其时檀道济军力不足以分途救司州及青州两地，最终只能先援青州，最终青州获全但司州失陷。至宋文帝诛除徐羡之等权臣亲政后，檀道济为宋文帝所忌，自兖州改置江州，至元嘉七年（430年）对北魏的北伐作战中亦没有以老有战功的檀道济为主帅，反是自己亲任的另一出身北府将领到彦之，但到彦之领导的北伐队伍却于冬季遭北魏反攻，纵在晚期复用檀道济也无法阻止滑台失陷，原收复的河南土