书籍进入台湾，林书扬也组织相关的读书会以汇集同志。在1950年的中国共产党台湾省工作委员会麻豆支部案中，林书扬被捕，判处无期徒刑，一直到1984年才释放，长达三十四年零七个月，与李金木两人是台湾史上坐牢最久的政治犯。出狱后的林书扬成为岛内社会主义统一派夏潮系的领导人之一。1986年，林书扬发起成立台湾地区政治受难人互助会，有一千余人参与。1987年，林书扬创办党外运动刊物《前方》，强调以工农两阶级为基础的阶级路线；该刊基于阶级立场，对当时试图抹煞社会内部阶级差异的「民间社会论」（或称「民间哲学」）展开了