取日本东亚同文书院上海分校商学系，受林熊征资助后至上海就读。1919年毕业，是该校第一位台籍留学生。毕业后居住在上海日本租界，任职日本三井银行上海分行，并经营房地产生意。林伯奏同时担任了林熊征之妻盛关颐，在上海的秘书。1946年，全家返回台湾。出任华南银行第一任总经理。1951年，创办新亚实业。
家庭.其妻为连横长女连夏甸。两人生有子女八人，长女林文月为台大教授。次女林文英，嫁给黄大洲。