京音乐学校，后又于1910年至1913年在柏林留学，曾师从马克斯·布鲁赫。归国后致力于古典音乐的普及工作，包括创办了日本最早的专业交响乐团日本交响乐协会（NHK交响乐团的前身）。作为指挥家，他指挥了大量世界着名作品的日本首演。山田耕筰名字“耕筰”的罗马字写法原为Kōsaku，后来在德国留学时，人们由于这个名字的读音与意大利语的“”（“什么”“东西”）以及德语的“”（“牛”）接近而取笑他，于是他将之改为Kôsçak。
作品.山田耕筰是一位产量很大的作曲家，作品总量大约有1600部