考入东京帝国大学法学院，并在那里主持马克思主义研讨会，但他在1925年离开学校，把精力投入到左派政治和艺术中。1926年初，当局依据《治安维持法》对大学里的共产党员和疑似共产党同情者进行围捕，林房雄被逮捕，并被关押了十个月。出狱后，他在《》上发表了短篇小说《林檎》，开始了他的文学生涯。这也标志着他开始成为无产阶级文学运动的主要成员。1927年，他与其他志同道合的作家一起成立了 "无产阶级艺术家联合会"。然而，1930年林房雄又因为替日本共产党进行募捐活动而被捕，并被关押在东京郊外的丰田监狱。在狱中，