改为前往长崎藩学医，期间曾在英国军舰上学习兵法两年。1865年，他转到由何礼之创办的私塾学习，师从前岛密，及后在前岛的推介下到萨摩藩成为讲师。一年后，他遇见小松清廉及西郷隆盛，获得两人青睐及提擕，遂培育他成为一名军人。1867年曾与松方正义一同说服岛津久光购入军舰春日丸，一年后成为春日丸的舰长，同年春日丸于中与开阳号并同参与战争。及后进入兵库军务官，曾任和泉丸舰长、兵部权少丞、兵部少丞，于1871年升为陆军中佐。1872年，兵部省将军队分为陆军及海军两队，林清康选择转投海军。及后曾到海军省军务局勤务和台