Terayama Shuji ble født i Hirosaki, Aomori, i desember 1935 (det foreligger usikkerhet rundt den eksakte fødselsdatoen). Familien flyttet til provinshovedstaden Aomori-by i forbindelse med jobben faren, som var politibetjent. I 1941 ble Shujis far innkalt til hæren og sendt til fronten; i september 1945 døde han av dysentri i Indonesia. Da USA satte igang bombetokter mot Aomori-by, flyttet Shuji og moren til Misawa, hvor moren begynte å jobbe på en amerikansk militærbase etter krigens slutt; tre år senere dro hun til Kyushu for å jobbe ved en annen base, hvoretter Shuji flyttet tilbake til Aomori-by.