924年10月4日出生于澳门，他的父亲林保罗牧师当时担任澳门白马巷浸信会的牧师。在他未出生时，父亲为他起名献羔，意为献给羔羊基督。1936年在香港长洲受浸。1942年进入梧州建道圣经学院，1945年起在广州传道（位于大北堂），1950年开始在广州市中心大马站35号的家中开始聚会，称为“大马站福音会堂”。因为他不愿意加入三自爱国教会，认为其政治宣传式的教导偏离了纯正的福音，结果在1955年9月14日，在肃反运动中和王国显、张耀生作为“大马站反革命集团”头目被捕，1957年获释。1958年第二次被捕，被判2