Yamaguchi vant en olympisk bronsemedalje i fotball under Sommer-OL 1968 i Mexico by. Han var med på det japanske laget som kom på tredjeplass i fotballturneringen for menn bak Ungarn og . Japan beseiret med 3-1 i kvartfinalen men tapte semifinalen med 0-5 til . Bronsefinalen mellom Japan og endte 2-0.