不得已，张忠只好随使者到了长安。苻坚要他出山为官，张忠以年纪过大推辞：“昔因丧乱，避地泰山，与鸟兽为侣。尚父非敢比拟，愿还余齿归岱宗。”苻坚用车送他回泰山。途经华山，叹道：“我东岳道士，没于西岳，命也！”遂去世，道教说化为仙人而去，追谥“安道先生”。事见王隐《晋书》。