其母亲被迫在棉纺厂工作以维持家庭生计。林房雄只能在一个富有的银行家家里做住家家教，才得以完成高中学业。林房雄后来考入东京帝国大学法学院，并在那里主持马克思主义研讨会，但他在1925年离开学校，把精力投入到左派政治和艺术中。1926年初，当局依据《治安维持法》对大学里的共产党员和疑似共产党同情者进行围捕，林房雄被逮捕，并被关押了十个月。出狱后，他在《》上发表了短篇小说《林檎》，开始了他的文学生涯。这也标志着他开始成为无产阶级文学运动的主要成员。1927年，他与其他志同道合的作家一起成立了 "无产阶级艺术家