生于日本青森县弘前市绀屋町，但是在户籍上所记载的生日却是1936年1月10日，根据寺山表示是因为「当时父亲为了工作而忙碌，而母亲生产后需要修养」才延迟了登记户籍的时间。在寺山六岁时，全家搬迁到八户市，但不久之后，随着父亲的出征作战，寺山和母亲再度搬迁到青森市，进入青森市玛莉亚幼稚园（マリア幼稚园）就读。寺山所居住的青森市在1945年的青森空袭中被严重破坏，而他和母亲居住的房子也几乎完全被烧毁，于是暂时投靠母亲住在六户村（现：三泽市）的哥哥。之后在1948年，寺山进入古间木中学就读，但数个月后随即转学到青