率八千精兵与西中郎将桓伊及徐兖二州刺史谢玄等人抵抗。当时前秦派东晋旧将朱序前来劝降，但朱序却告知征讨大都督谢石应该趁前秦大军未完成集结前先击溃前锋，夺其气势，谢琰则劝谢石听从。而随后谢玄派刘牢之击溃梁成部后晋军向淝水推进，与前秦军隔水对峙，军势令前秦天王苻坚畏惧。及至前秦军队退后待与晋兵决战时自溃，谢琰就与谢玄等人领兵渡过淝水击败前秦军队，为东晋取得淝水之战的胜利。
参兴平叛.太元十年（385年），谢安去世，谢琰为谢安守丧，而在当年十月，朝廷追论淝水之战的战功，封谢琰为望蔡公。丧期