Yamamoto memasuki Akademi Tentera laut di Etajima, Hiroshima pada 1901, tamat belajar pada tahun 1904. Pada tahun 1905 semasa Perang Russia-Jepun, dia turut terbabit sebagai ensign di atas penjajap "Nisshin" di Pertempuran Tsushima melawan Angkatan Baltik Russia. Dalam pertempuran itu, dia kehilangan dua jari pada tangan kirinya (lihat gambar sebelah kanan). Selepas perang, dia menyertai beberapa kapal berlayar diseluruh lautan Pasifik.