Det ble startet da Torakusu Yamaha (1851–1916), en klokkemaker, som reparerte et harmonium i 1887. Kort tid etter laget sitt første egne harmonium. Firmaet ble startet i 1897 med et kapital på 100 000 yen og fikk navnet , men i 1987 ble dette erstattet med . Logoen med tre stemmegafler er fra 1916.