绪四年（1878年），自幼与兄长林白水受母亲教育。后来，林宗素到大舅家，随家馆老师高啸桐学西学。10多岁时，林宗素自己放足，不再缠足。不久，其母去世，林宗素完全依靠哥哥林白水生活。光绪二十七年（1901年）底，林宗素随兄嫂到上海。1902年，她在上海入蔡元培等人创办的爱国女校读书。其间，她参与了中国教育会、爱国女校、爱国学社的活动，实际上“明里办理教育，暗中鼓吹革命”。光绪二十九年（1903年）二月，林宗素随林白水赴日本留学。到日本以后，她在日语传习所学习日语，并参加中国留日学生活动。同年三月，为响应拒