Yamamoto memasuki Akademi AL di Etajima, Hiroshima pada 1901, tamat belajar pada tahun 1904. Pada tahun 1905 semasa Perang Rusia-Jepang, dia turut terlibat sebagai letnan muda di atas penjajap "Nisshin" di Pertempuran Tsushima melawan Angkatan Baltik Rusia. Dalam pertempuran itu, dia kehilangan dua jari pada tangan kirinya (lihat gambar sebelah kanan). Selepas perang, dia menyertai beberapa kapal layar di seluruh Samudra Pasifik.