河一带。谢玄继续北上，收复河北部分土地。但朝中借口征战太久，应该巩固战线（实际上是司马道子为了专权，排挤谢安，不希望看到谢玄立下太多战功），令谢玄撤回淮阴镇守。不久河北大叛乱，北伐结束。
隐退，去世.太元十年（385年）八月谢安病重，于二十二日病逝建康，谢玄兄长谢靖也在此时去世，谢玄自己出生不久的幼子也在襁褓之中夭折。十二年（387年），朝廷征谢玄为会稽(今浙江绍兴)内史，以朱序为青﹑兖二州刺史，代玄镇广陵。谢玄从此失去对北府兵的领导权。十三年（388年），谢玄病逝于会