927年返回上海后，同年赴东京与日本共产党干部渡边政之辅与佐野学见面，受邀列席日共中央委员会，领取台共的《政治纲领》与《组织纲领》指示。抵达上海后联络翁泽生，根据日共的指示林木顺与谢雪红、翁泽生共同起草修改建党提纲，林木顺分析台湾社会结构与矛盾，拟定台湾共产党《政治大纲》与《工农运动提纲》。1928年4月15日台湾共产党建党大会在上海召开，林木顺成为主要领导人之一，获选为党书记长，并负责党的组织工作，政治大纲标举「台湾民族独立、建立台湾共和国」，日后并将「台湾民族」、「台湾革命」、「台湾独立」的概念引进台