台湾文化协会因左右派的路线之争而分裂，之后蒋渭水成立台湾民众党，出任中央常务委员兼财政部长。台湾民众党争取地方自治、提倡言论自由，是台湾第一个现代化政党。成立政党之后，蒋于1928年（昭和3年）筹组台湾工友总联盟，并任顾问，且与台湾农民组合联合进行阶级斗争，但是蒋渭水行为受党内右派批判。1930年林献堂、蔡培火、叶荣钟等人退党，并筹组台湾地方自治联盟。蒋渭水领导的台湾民众党不止一次向国际联盟控诉日本在台湾贩卖鸦片特许制与雾社事件，逼使日本政府採医疗措施，让台湾情况得到国际注意。蒋渭水深受孙文学说影响