32年工业学校毕业后，随即到一家印刷工厂当排版学徒，工作之余拜日本名音乐家山田耕筰学习声乐及作曲。同年秋天，参加日本第一届音乐比赛，获得声乐奖入选；1933年再度获奖，并获藤原义江歌剧团团长赏识，聘为该团艺员，担任男中音。俄国革命后流亡法国的音乐家齐尔品于1934年进行环球演奏计画，来到日本与中国，多次演奏两国音乐家作品，参考东方风格创作新曲，并在东京认识江文也。江文也拜在齐尔品门下，亦师亦友，以空档时间学习欧美现代派音乐语汇。齐尔品邀请江文也前赴中国，1936年首度踏临北京与上海，埋下江文也未来羁留中