任第一至四届立法委员，同时兼任法制委员会委员长。其间参与起草中华民国宪法草案及说明书，参与制定了标准法、国籍法、民法、刑法、民事诉讼法、户籍法、土地法、强制执行法、违警罚法、破产法、公证法、律师法及各种机关组织法等法律。其间，他还任教于国立北京大学、国立政治大学、国立中央大学等校法律系。1937年，林彬曾因病返乡，抗日战争爆发后返回南京，后又与国民政府一同前往四川。1939年因母亲逝世而回乡奔丧。1942年起，任考试院法规委员会委员。1945年当选中央监察委员，1946年又当选制宪国民大会代表。1947