令谢玄率5万北府兵，自广陵起兵应敌。谢玄四战四胜，全歼秦军。战后，谢安因功晋封建昌县公，谢玄晋封东兴县侯。
第二阶段：淝水之战.太元八年（383年）五月，桓冲倾10万荆州兵伐秦，以牵制秦军，减轻对下游的压力，苻坚派苻睿、慕容垂、姚苌和慕容暐等人迎战，自己亲率步兵60万，骑兵27万，以弟苻融为先锋，于八月大举南侵。谢安临危受命，以谢石为前线大都督，谢玄为先锋，并谢琰、桓伊等人，领8万兵马，分三路迎击秦军。十一月，谢玄遣刘牢之以5千精兵奇袭，取得洛涧大捷，秦军折损10名大将，5万主力。