迁中原的诸外民族乘机举兵，造成五胡乱华的局面，大量百姓与世族开始南渡。316年，西晋灭亡，北方从此进入五胡十六国时期。317年，晋室皇族司马睿于建康称帝，定都建康（即今南京），是为晋元帝，史称东晋，据有华南地区的领土。中原的世族及百姓陆续南迁，形成华北地区的侨民和南方土着共同聚居的局面。东晋初期，王导等人採取镇之以静策略，稳定局势。东晋皇权衰落，朝廷大权主要由世族掌握，由于军权外重内轻，朝廷控制力弱，不少藩镇心怀野心，先后发生了王敦之乱、苏峻之乱及桓温专政。虽然部分士族当权者有恢复之心，前后发动几次北伐