Ito nasceu em Kagoshima sendo filho de um samurai. Ele estudou engenharia naval e artilharia naval no Centro de Treinamento Naval de Kobe. Após a Restauração Meiji Ito tornou-se tenente servindo na corveta Nisshin. Em 1882, é promovido à capitão. Em 1885, assumiu o comando do Arsenal Naval de Yokosuka. Em 15 de junho de 1886, tornou-se contra-almirante e em 12 de dezembro de 1892, tornou-se vice-almirante. Em 20 de maio de 1893, assumiu o comando-geral da frota japonesa. Durante a Primeira Guerra Sino-Japonesa comandou a frota japonesa na Batalha do Rio Yalu derrotando a frota chinesa. Em 28 de dezembro de 1828, foi promovido à Almirante.