从洛阳坐官船，四月回到茅山，不久即在茅山逝世，享年一百二十六岁（宫内淳平在1977年发表的一篇简短的札记中，讨论了王远知的生卒年，认为他应该出生于梁大通二年（528），贞观九年（635）八月去世时当爲108岁，而不是《旧唐书》本传等所载的126岁。）。唐高宗调露二年（680年），追赠王远知为太中大夫，谥曰昇真先生。武则天临朝，又追赠金紫光禄大夫，天授二年（691年），改谥曰昇玄先生。