林铁四川万县人，原名刘树德。林铁于1922年在重庆联合中学就学，1925年到北京先后考入中国大学，国立北京中俄大学，法政大学学习，1926年11月加入中国共产党，担任法政大学党支部组织委员，代支部书记。1928年赴法国巴黎大学统计学院勤工俭学，先后任中共留法委员会委员，训练部部长，书记。1932年1月赴莫斯科列宁学院学习，1933年入莫斯科东方大学学习，任中共东方大学中国支部书记。1935年回国担任东北军第53军中共工委书记，1937年任中共河北省委委员，军事部长，1938年担任北岳区党委委员兼民运部部