司马睿重建晋朝，史称东晋，睿为晋元帝。此后河南全境为游牧民族占据，先有前赵、后赵，再有前燕、前秦，竟由前秦一度统一华北，后由于淝水之战的失利而再次土崩瓦解。河南先后由后燕、后秦占有，但此时东晋军队在刘裕统帅下挥师北伐，节节胜利，使得晋朝收复黄河以南、淮河以北的广大地区，并一度光复长安与洛阳。十六国中的后起之秀、北朝的开山鼻祖——北魏与东晋划黄河而治。北魏孝文帝元宏后来迁都洛阳，以进逼南朝。
隋、唐、五代.南北朝以后，河南洛阳逐渐成为国际大都市，隋唐洛阳为东都全盛时人口百万，