1920年3月为北京大学马克思学说研究会外埠会员。同年秋，与山东省一中学生邓恩铭等人发起成立励新学会，出版《泺源新刊》（一师学生自治会主办）半月刊。1921年春，与邓恩铭发起创建济南共产主义小组。7月，赴上海出席中国共产党第一次全国代表大会，后任中共山东区支部书记，中国劳动组合书记部山东分部主任。1922年1月，赴莫斯科参加远东各国共产党和民族革命团体第一次代表大会，受到列宁的接见。7月，在上海出席中共二大。会后与邓中夏一起负责中国劳动组合书记部的领导工作，参与了制定《劳动法大纲》。1922年11月，在山海关领导建立党组织，先后领导山海关、秦皇岛等地的罢工运动，并为开滦五矿总同盟罢工指挥部的成员之一。1923年2月，在山海关被逮捕，关押在临榆县。工人纠察队队员将临榆县政府包围，进行请愿，临榆县县长下令将其释放。后重回山东。10月以个人身份加入中国国民党。