毕业后任教于新竹公学校担任训导，1909年于桃园公学校担任教谕，之后前往日本内地求学，主攻法律。大正二年（1913年）毕业于明治大学专门部法科。大正十二年（1923年）2月，取得律师资格，是台籍人士第一位通过日本律师考试者。蔡式谷在日治时期从事台湾民权运动踏入政治，参与治警事件。曾担任台湾文化协会理事、台湾民众党顾问、台湾地方自治联盟常务理事等职。昭和十年（1935年），蔡式谷参选台北市会员选举，以1245票获得台北市最高票当选。1945年日本投降，国民政府接收台湾后，蔡式谷受聘担任台湾省文献委员会