1927年，他与其他志同道合的作家一起成立了 "无产阶级艺术家联合会"。然而，1930年林房雄又因为替日本共产党进行募捐活动而被捕，并被关押在东京郊外的丰田监狱。在狱中，林房雄思想发生转变。1932年出狱后，他移居镰仓。1934-1935年移居静冈伊东市，1935年创作《浪漫主义者的笔记》（浪漫主义者の手帖），宣布不再支持马克思主义，并于1936年开始中断与无产阶级文学运动的一切联系。同年又来到镰仓居住。随着1937年中国抗日战争的爆发，他加入大日本帝国陆军并被派往中华民国参与作战。第二次世界大战结