建修治马头新城，自己就亲率部众打算支援洛阳。然而及后郗昙因病而退屯彭城，谢万却以为对方是因前燕兵强而退，于是仓卒退兵，士众于是自行溃败，谢万亦只身狼狈逃还，其间部下却打算趁谢万兵败而杀了他，只因念及谢安，才没有实行。然而谢万这次溃败却令许昌、颍川、谯郡、沛郡等豫州各郡落入前燕之手，故谢万回时就被废为庶人。升平五年（361年），朝廷重召谢万为散骑常侍，适逢谢万逝世，享年四十二岁，朝廷亦以散骑常侍作为其赠官。