《名古屋新闻》社会版记者，同时参加名古屋劳动者协会。其后1923年因参加社会运动被当局逮捕、25年出狱后曾至木曾谷水坝工地工作。陆续于《文艺战线》杂志上发表短篇小说《淫卖妇》（1925）、《水泥桶中的信》（1926），深受当时文艺战线杂志社同仁推崇。关东大地震之后叶山嘉树被视为普罗文学兴盛期的一流作家。之后，普罗文学运动组织产生分裂。在再次统合之下，叶山一贯支持普罗文学组织中的『劳农派』，并作为此派的代表作家而活跃文坛。1945年（昭和20）6月前往满洲北安省开拓，败战后归国途中，因脑溢血病逝于火车上。