家中第4个小孩（共有11个），后来在北京成长。他的父亲当时是中华民国最高法院的法官。到11岁才正式受学校教育，14岁以数学第一名及其他科第二名的入学考成绩进入国立交通大学唐山工学院就读（今西南交通大学），19岁（1931年）获得土木工程学士的学位。随即赴美国加州的柏克莱加州大学攻读土木研究所硕士，1933年取得硕士学位，林同炎学成归国后，到铁道部工作，担任成渝铁路的桥樑总工程师，监造铁路沿线的一千多个桥樑。及工信公司总工程师和台湾糖业铁路处长等职务。1946年，他应柏克莱大学之聘，前往美国柏克莱加州