军后撤崩溃时率军进击，大败前秦，获得淝水之战的胜利。战后谢石以功迁中军将军、尚书令，进封南康郡公。任内，谢石以学校败坏，上请兴复国学，教导士族子弟，并命各州郡都兴修乡校。上奏获晋孝武帝接纳。太元十年（385年），谢石兄谢安去世，谢石迁衞将军，加散骑常侍，尚书令如故。当时谢石因公事而与吏部郎王恭互相批评，王恭忿恨而请求去职；谢石亦上请退位。当时谢石自行离职，于是被检举并被免官。及后朝廷下诏命其返回原职，但一年多仍不应命；谢石更多次上表求退，亦遭拒绝。谢石及后便请求依照王彪之在府中总理尚书令事务的前例，