村（今兵库县赤穗郡上郡町岩木丙石户）的一名医生小林直辅之子，幼名小林庆太郎。幼时与其父一样，就读于闲谷学校，学习汉学、儒学、汉方医学。1849年（嘉永2年）返回家乡上郡，为兰方医师做助手（也是在这段时间改名为圭介）。嘉永5年（1852年）5月2日，为学习兰学，前往大坂到绪方洪庵开办的适塾研读兰学和西洋医学。安政元年（1854年），还在适塾读书时即与人一同前往江户。期间得到萨摩藩聘用，协助进行翻译。其后到坪井塾担任塾头，从此开始关注重点转移到军事、工程等问题上，在这段时间学习西方军事学说和摄影术。也是在这段时