謝玄
謝玄は淮陰に帰還したところで病を発症してしまい、再び上疏して解職を請うたが、詔により許されなかった。謝玄はなおも今の容態では職務に堪えられず、職務が疎かになってしまうと陳述したところ、詔により東陽城に移ることとなった。謝玄はその道中で容態が悪化したので、またも上疏して解職を請うと、詔により一人の名医が派遣され、京口において療養することとなった。この一件により、後の時代には職を辞して郷里に帰るよう求める事を『謝玄文』というようになったという。
太元12年(387年)正月、謝玄は帰還してからも容態が回復しなかったことから、また上疏して一族を取り立てるよう請うたが、返答は無かった。その後も10数回に渡って上疏を繰り返すと、遂に詔が下って要求が認められると共に、謝玄は散騎常侍・左将軍・会稽内史に移るよう命じられた。
当時、呉興郡太守・晋寧亭侯張玄之は才学により著名であり、謝玄が移るのと同じ年に吏部尚書から呉興郡太守に移った。その名声は謝玄に次ぐものであり、当時の人々は彼らを『南北二玄』と称賛したという。
5月、会稽の処士である戴逵は詔により招聘を受けていたが、彼は幾度も断っていた。郡県はしきりにこれに応じるよう強迫すると、戴逵は呉に逃走して隠れてしまった。これを聞いた謝玄は上疏して彼を大目に見てその志を遂げさせてやるよう勧めると、朝廷はこれを認めた。
謝玄は病身のまま郡にあったが、太元13年正月丙午(388年2月8日)に在官のまま薨去した。享年46歳。
車騎将軍・開府儀同三司が追贈され、献武と諡された。
同月、前秦の驃騎将軍張蚝は淝水の南岸に進んで謝石軍を破った。その為、謝玄・謝琰は数万の兵をもって張蚝軍の到来を待ち構えたが、張蚝は軍を引いて北に戻り、苻融率いる前鋒軍は淝水北岸の近くに陣を布いた。これにより、両軍は淝水を挟んでにらみ合いの状態となり、お互いに渡河する事ができなくなった。
この時、謝玄は苻融の下へ使者を派遣して「君は敵陣深く入り込んでおり、水辺近くに陣を布いている。これは持久の計であり、速戦ではないぞ。もし軍を少し引き、将士に陣を移すよう命じたならば、晋兵は渡河する事が出来、勝負を決する事が出来よう。なんと良い事ではないか!」と述べ、河を渡り切ってから勝負を決するよう持ち掛けた。この申し出に前秦の諸将はみな「我らは多勢であり、敵は寡勢です。渡河させなければ、何もできません。これこそ万全というべきです」と述べたが、苻堅は「兵を引いて少しだけ退却し、敵が半ばまで渡ったところで我が鉄騎をもって迫り、これを撃破するのだ。これで勝てないわけがなかろう!」と述べ、表向きは謝玄の申し入れに乗った振りをした。苻融もまたこの意見に同意し、その軍に退却を命じた。これを受け、謝玄もまた約束通り謝琰・桓伊と共に精鋭八千を率いて渡河を開始した。