西郷らが主張する征韓論や、大隈重信や西郷従道らが主張する台湾出兵には一貫して反対し、またあくまで農民を不公正な税制と重税から解放するために積極的に推し進めた地租改正や、武士の特権を廃止し彼らの新たな生活が立ちゆくよう構想された秩禄処分が、それぞれ逆効果となる形で実行された時には、これに激しく反発した。そして、台湾出兵が決定された明治7年（1874年）5月には、これに抗議して参議を辞職している。