祥直接升入芜湖的圣雅各中学高中部就读。课余期间他受到宣传社会革命书刊的影响，开始参与革命活动。1925年4月，王稼祥组织了圣雅各中学的学生反对强制学习圣经和祈祷，被学校开除。1925年9月，王稼祥赴沪入上海大学附中，加入共青团。同年10月赴苏，进入莫斯科中山大学学习。由于英语基础好，他和张闻天、沈泽民等人编入英文班，直接听外语讲课。1927年，莫斯科中山大学校长卡尔·拉狄克被解职，副校长米夫还在中国，所以教务长阿古尔代理校长，主持学校工作；这和支部书记谢德尼可夫产生冲突，支持两派的学生也被被称之为“教务