迁居贵阳，跟随其舅黄齐生生活。1919年后，先后赴日本、法国留学。1922年在巴黎加入中国少年共产党，后转入中国共产党。1923年赴苏联莫斯科学习，1925年回国。回国后，李大钊派遣其负责共产党在河南的工作。1926年调往上海党中央机关，出任中共中央秘书部主任，协助陈独秀工作。1927年4月初，随中共中央机关迁至武汉办公，出席中国共产党第五次全国代表大会，负责大会的总务工作。1927年中国国民党和中国共产党决裂。八七会议之后，王负责在江苏南部发起了几次农民暴动。1928年，王赴莫斯科出席中国共产党第