幼即没有父母，并由其姐姐抚养长大。7岁入私塾，8岁到北京求学。1907年因写论文骂孔子、周公，被天津译学馆开除学籍。1908年入天津北洋客籍学堂，1909年秋，因领导反日运动又被学堂开除。不久，自天津赴北京。宣统元年（1909年），13岁的林庚白考入京师大学堂预科。1910年，经汪精卫介绍，加入中国同盟会。辛亥革命后，民国元年（1912年），林庚白与陈模（陈勒生）等人在上海创办“黄花碧血社”，专门暗杀帝制余孽（一说名为“铁血铲除团”，专门暗杀北洋官僚及变节的革命党人）。同年，经同乡林之夏介绍加入“南社”