廷因甲午战争失败而签订马关条约，割让台湾予日本。消息传至台湾后，人心愤慨，于是台湾民主国成立，各地皆起兵响应。谢天德亦召集乡勇，筹备守卫乡里。5月29日，日军近卫师团登陆澳底，乙未战争遂起。6月中旬台北城失陷，谢天德奉林朝栋命令，率领栋军之栋字正营及数营乡勇日夜兼程北上。在林朝栋内渡后，谢天德并未解散部队，反而在新竹与近卫师团展开激战。因为兵力装备悬殊及军士素质参差不齐，在姜绍祖战死后，于7月23日退入苗栗整补。之后南下，并曾于头家厝庄（今台中市潭子区）等地逆袭追击的日军，且参加着名的八卦山之役