后南侵淮南地区，六万大军逼近广陵，谢石领水军在涂中抵御。及后在谢玄、何谦等人的进攻下于君川大败前秦，成功解除了危机。战后谢石以功封兴平县伯。太元六年（381年），谢石升任尚书仆射。太元八年（383年）前秦天王苻坚派遣大军南侵，前锋苻融率兵二十五万渡过淮河。朝廷于是让他解任尚书仆射，以征虏将军假节为征讨大都督，与侄儿谢琰、谢玄及西中郎将桓伊等领兵抵抗。前秦于十月攻陷寿阳后，苻坚留大军在后，与八千轻骑到寿阳亲自督战，并派晋朝旧将朱序向谢石劝降。但朱序却向谢石建议在前秦大军未到齐前击败其前锋，从而夺其士气