Yamagata nació en una familia samurái de baja categoría en la ciudad de Hagi, capital del dominio feudal de Chōshū (actual prefectura de Yamaguchi).