吴的名将王濬的孙子。父亲王畅，官至散骑郎。王粹在289年奉晋武帝诏娶颍川公主。贾谧喜欢接纳士大夫。王粹和陆机、陆云兄弟，郭彰、石崇、和郁、荥阳人潘岳、清河人崔基、勃海人欧阳建、兰陵人缪征、京兆人杜斌、挚虞，琅邪人诸葛诠、襄城人杜育、南阳人邹捷、齐国人左思、沛国人刘瓌、周恢、安平人牵秀、颖川人陈眕、高阳人许勐、彭城人刘讷、中山人刘舆、刘舆的弟弟刘琨，都归附于贾谧的门下，号称二十四友。303年八月，河间王司马颙让张方任都督，带领七万军队，从函谷关向东，直指洛阳。成都王司马颖在朝歌驻扎军队，让平原内史陆机