林长民生于一个官宦家庭。父林孝恂，光绪进士，历任浙江一些州县的知县。据《福建省地方志》记载，清光绪二年七月十六日(1876年9月3日)，林长民生于杭州，而《造化元钥评注》则记为“光绪二年六月十四日(1876年8月3日)出生。 1897年（光绪23年）中秀才后，学习英语、日语，从事翻译业。1906年（光绪32年），他通过杭州东文学校赴日本留学，在早稻田大学获得政治经济科的学士。其间，他任福建同郷会会长。中野正刚、风见章是其同班同学。除此之外，他还同张謇、岑春煊、汤化龙、孙洪伊、刘崇佑、徐佛苏、杨度、宋教