生于长州藩长门国，父亲为胜津兼亮，母亲为明治维新元老山县有朋的姊姊。曾到德国留学，归国后担任德岛县和三重县内务官员及地方局长。1906年在第一次西园寺内阁中担任递信大臣。1908年7月7日辞任递信大臣后当选成为贵族院议员。1910年成为韩国副统监、日韩合併后成为朝鲜总督府政务总监及中枢院议长。