社会问题也在滋长，其中最紧迫的就是胡人部落内迁晋朝境内，到了在一些地区比汉族人还多的地步。最终，这些胡人部落开始了五胡乱华，控制了北方、中原的大部分，将晋朝的控制范围缩减到淮河以南，终结了晋朝早期的繁荣。此后的晋朝被称为东晋。东晋政府很大程度上由王敦、桓温这样的权势将领主导。这些将军常发起北伐意图从五胡手中收复北方。但军政的内部分歧和南方经济的欠发达使得这些北伐多无功而返。383年，晋朝受到已一统北方的前秦的威胁，晋朝不是要为收复北方而战，而是要为自身存活而战了。但在淝水之战中，晋军打败了比自己