年（1884年）4月28日生于新竹，以小名蔡乞行于世。日治时期明治三十年（1897年），入新竹国语传习所--明志书院。1903年毕业后任教于新竹公学校担任训导，1909年于桃园公学校担任教谕，之后前往日本内地求学，主攻法律。大正二年（1913年）毕业于明治大学专门部法科。大正十二年（1923年）2月，取得律师资格，是台籍人士第一位通过日本律师考试者。蔡式谷在日治时期从事台湾民权运动踏入政治，参与治警事件。曾担任台湾文化协会理事、台湾民众党顾问、台湾地方自治联盟常务理事等职。昭和十年（1935年），蔡式谷