Yamamoto kam fra samuraiklanen shimazu og deltok under Meijirestaurasjonen, før han begynte ved forberedende militære skoler i Tokyo og han begynte på den keiserlige japanske krigsskole for den japanske marinen i 1870. Etter endt eksamen fra den japanske sjøkrigsskolen i 1874, begynte hans trening ombord på japanske og tyske marinefartøy i 1877 og 1878 der han ervervet seg nye opplevelser som junioroffiser på tokter til Europa og Sør-Amerika.