迁居陈郡阳夏县都乡吉迁里（今河南省太康县），遂以陈郡为郡望。西晋时，谢缵之子谢衡为国子祭酒。东晋初年，谢衡之子谢裒为儿子谢石向琅琊诸葛氏求婚，被诸葛恢拒绝，可见陈郡谢氏在东晋初年还只是一个普通士族。直至谢万出仕，掌握了豫州之后，方才开始崛起，可谢万也被阮裕鄙视，称其为暴发户，直到淝水之战，谢氏所领北府兵以少胜多后，东晋政府追论功绩，追封谢安为庐陵郡公，封谢石为南康郡公，谢玄为康乐县公，谢琰为望蔡县公，陈郡谢氏一门四公，奠定了一流士族的地位。陈郡谢氏的主要功绩，为领导北府兵，淝水之战之中以少胜多，打败了