5月21日，受明治政府任命为公使，全权负责与李经方办理交割台湾后续事宜，同时也兼任代民政局长。1896年4月1日，真除为民政局长。1897年，水野遵离职。明治卅三年（1900年）6月14日日明治天皇特旨陞叙「从三位勋二等」。次日，因肾脏病去世。葬于三桥町共同墓地。