在「上海读书会事件」身分暴露打断返台计划，因而留驻上海指导台共，联系日共党中央，与陈来旺、林兑、林添进建立「东京特别支部」。在台共与新文协领导者连温卿路线争论的议题上，台共领导权渐渐让渡给在台湾的谢雪红党中央。1929年3月东京支部被破获后，加入中国共产党，在上海与翁泽生组织「上海台湾青年团」，吸收上海台湾留学生并与台共联系，声援朝鲜独立。1929年与中国、朝鲜、台湾等几个团体组成「上海青年反帝大同盟」，1930年4月遭到中国宪警逮捕，1931年4月出狱，期间台共在台湾遭到日警逮捕殆尽。日本警察在1