私塾读书，其后在刘氏族学、安徽省立第一师范学校、六邑联立中学等校读书。1919年，参加了五四运动，并先后担任过安徽省学生联合会委员、学生联合会副会长。1921年4月，他与舒传贤、许继慎、彭干臣、蔡晓舟等成立了安庆社会主义青年团。1923年，王步文加入中国共产党。翌年，入读上海大学社会系。1925年至1927年间，赴日本留学。回国后，担任中共安徽省临时委员会委员。1929年，又调任中央巡视员。同年，在上海党中央干训所学习，并编辑出版了《》一书。1931年中共安徽省委成立后，历任代理书记兼宣传部长、省委书记。