老师西川政藏鼓励林木顺报考台北师范学校。大正十一年（1922年）3月，林木顺自草鞋墩公学校毕业。4月17日入学台北师范学校（今台北市立教育大学），在台北师范时期，林木顺与来自新庄郡的李肇基（即后来的李友邦）、罗东街的郑泰聪成为莫逆之交，结拜为兄弟。受台湾文化协会思想启蒙，大正十三年（1924年）与李友邦等师范学校同学袭击台北新起街派出所(新起街派出所事件)，同年3月19日林木顺因「性行不良」遭退学，后同李友邦赴上海，行前在草屯认识谢雪红。两人到上海后同居，入读上海大学，并加入日本共产党（依据Russian