还听到腹中的啼哭声，名僧宝志就对其父王昙选说：“生子当为神仙之宗伯也。”王远知出身官宦世家，自幼博览群书。他先后拜茅山的陶弘景、宗道先生臧竞为师，学习道法和儒学。由此知名，受到陈朝皇帝和镇守扬州的晋王杨广的召见。杨广即位后，大业七年（611年）出巡到涿郡，再次派员外郎崔凤举邀请王远知到临朔宫，对他行弟子之礼，并为他建造玉清观，让他主持。次年回洛阳后又让王远知随从巡幸扬州，王远知告诫炀帝不宜远离京城，但炀帝不听，只是让他去中岳嵩山修斋仪。王远知与唐高祖李渊是旧识，李渊建立唐朝后，秦王李世民在征伐王世充