王远知出生于南朝梁大通二年(公元528年)。他尚未出生时，其母做了一个梦，梦见一群凤凰飞到自己身上，醒来就怀孕了。
    王母怀孕后，有个和尚对王父说：“生子当为神仙之宗伯也。”就是说如果王母生的是儿子，这个儿子将来要成为神仙中的宗伯。
    少时聪慧的王远知长大后做了道士，“初入茅山，师事陶弘景，传其龙腾辟谷道法。后又师事宗道先生臧矜”。
    勤奋好学，加上师从名师，王远知学问大成、声名大噪。
    三次预言三次应验
    据史料记载，王远知是个神奇的预言家。
    他预言隋炀帝杨广要身死江都。
    杨广还在当晋王时，就听说了王远知的大名，于是派人将其请到府上。见到杨广，王远知的一头黑发突然变白，不一会儿又变黑，杨广看得十分害怕，于是“惧而遣之”。
    杨广当上皇帝后到涿郡巡游，又派人把王远知请到行宫，“亲执弟子之礼”。后来，他要到江都巡游，王远知委婉地劝他不要去，他不听，结果在江都被部下所杀。
    他预言李唐要代替隋朝。
    隋末，天下大乱，在众多英雄中，王远知独独看中李渊。《旧唐书》记载：“高祖之龙潜也，远知尝密传符命。”李渊还没弄住事的时候，王远知就秘密拜见了他，说上天已经出现征兆，李氏将代杨氏拥有天下。
    他预言李世民要当皇帝。
    唐武德年间，秦王李世民带兵打败王世充后和房玄龄微服拜访王远知。王远知不认识李世民，却看出李世民不一般，“你们中间有位圣人，这个人应当是秦王”。
    身份被猜出，李世民便以实情相告，王远知恭贺他：“您将做太平皇帝，愿自惜也。”
    上天要我做少室伯
    王远知看别人看得准，看自己也不含糊。
    有一天，他忽然对徒弟潘师正说：“我看见自己的‘仙格’了。我因小时候误伤了家童的嘴唇，所以不可白日升天。上天让我当少室伯，我很快就要走了。”
    第二天，他“沐浴，加冠衣，焚香而寝，卒”。
    他在留给儿子绍业的遗书中说：“你将在65岁时见到皇帝，在70岁时见到女皇帝。”果然，王绍业在65岁时被唐高宗召见，70岁时被武则天召见。
    给官不做，坚决归山
    虽然道行高深，深得几位皇帝喜爱，但王远知对做官不感兴趣。
    唐太宗即位后，要给王远知高官厚禄，他一口回绝，坚决归山。于是，太宗下旨在润州茅山修建太平观供其居住，并下诏曰：“先生操履夷简，德业冲粹，屏弃尘杂，栖志虚玄……我以前还是秦王的时候，就得到过您的教导，现在看到您的奏章，说自己仍想到山中修道，我不能违背您的意愿。我已经让人给您建了一座道观，来表达我的心意……”
    可惜太平观还未建成，王远知就羽化了，享年126岁。