亲在战后去世，且住宅毁于名古屋大空袭，时年2岁的他与母亲返回娘家（海部家）居住。当年同住的表哥海部俊树后来成为日本首相。海部首相后来回忆，当年的小林：「是一个老实可爱的男孩子，总是在房间里读很难的书。回想起来，那就是天才『突变』的萌芽吧。」小林在名古屋大学完成学士、硕士、博士教育，在知名物理学家坂田昌一门下学习。
研究.小林诚专长基本粒子理论，并以卡比博-小林-益川矩阵为高能物理学界所熟知。他与名古屋大学的学长益川敏英于1973年提出小林-益川矩阵，用来解释弱相互作用中的电荷宇