兵庫県神戸市生まれ。父は船員であった。京都府立二中、広島陸軍地方幼年学校から陸軍士官学校卒（55期）。陸軍戸山学校生徒を経て、陸軍挺進練習部（現 新田原基地で落下傘降下を学ぶ。1944年陸軍航空士官学校へ移る。1945年8月15日、近衛師団司令部で森師団長を刺殺後、 修武台航空神社前で自決。
王貞治監督率いる福岡ダイエーホークスと星野仙一監督率いる中日ドラゴンズの対決となった1999年の日本シリーズは、全試合がドーム球場で行われるのは初めてで在京、在阪の球団がからまない顔合わせは1954年以来45年ぶり2度目となる。前評判では中日圧倒的優位だったが、ダイエーが4勝1敗で前身の南海ホークス時代を含めると35年ぶり3度目で、福岡県への本拠地移転後では初の日本一。ダイエーは、主将の秋山幸二は第1戦と第2戦で本塁打、第3戦で久慈照嘉の右翼ポール付近へのファウル飛球を三角跳びで好捕するなどチームを牽引し、日本シリーズMVPに選出された。秋山は西武時代の1991年にも同賞に選出されており、複数球団での受賞は史上初。一方、中日は主砲の山崎武司をシーズン終盤の負傷で欠き、第一戦先発した工藤公康が中日の1番関川浩一の調子を抑え調子を狂わせたことも大きく、関川は同シリーズ21打数2安打、第一戦から第四戦まで無安打、得点能力が激減し、益田大介・神野純一ら控え選手を先発で使うなどしたが野手層の薄さが露呈し、ルーキーの福留孝介は3戦から5戦まで失策を記録した。井上一樹は13打数ノーヒットだった。さらに、中継ぎの一人だったサムソン・リーが翌年のメジャー挑戦を公に表明してしまい選手登録から外されるなどしていた。なお、第2戦で好投した川上憲伸が敢闘賞に選ばれている。なお、この年は史上初めて全試合ドーム球場（福岡ドームとナゴヤドーム）で開催されたシリーズでもあった。また、王監督は監督として初の日本一を経験し、ナゴヤドームで開場以来、レギュラーシーズンおよびポストシーズンを通じて初の胴上げを経験した監督となった。そして巨人生え抜きOBで他球団を日本一に導いたのは三原脩（西鉄、大洋）、水原茂（東映）、広岡達朗（ヤクルト、西武）、森祇晶（西武）に次いで王で5人目となった。
『ルパン三世』シリーズにおいて（メインキャラクターの声優を総入れ替えした『風魔一族の陰謀』を除く）、パイロット版から現在まで、一貫して声優が変更されていないのは、次元役の小林だけである。2011年以降は、メインキャスト5人のうち、パイロット版から出演している唯一のキャストとなり、最年長となる。また現在は、アニメ『ルパン三世』の製作に最も長く携わる人物となる。小林は作品を「こんな人気作になるとは思わなかったね。昔は色々な仕事のうちの一つぐらいに思っていた」と振り返っており、今後については「制作の人の判断」としつつも、「できる限りやらせてもらいたい」「ダメになったら俺からやめるよ」と発言している。また、「ルパンの伝統を託されたと思って、歌舞伎の十八番のようにいつまでも演じ続けたい。昔のルパンが持っていた魅力を残していきたいね」とも発言している。原作者のモンキー・パンチによると、元々次元のイメージは『荒野の七人』のジェームズ・コバーンであり、そのイメージからジェームズ・コバーンの吹替えを持ち役としていた小林に次元役を決定したということである。次元を演じ始めた当時のことについて小林は、「最初の頃は、次元の持つ鋭さを出すのが難しかったが、葛藤を通り過ぎると自分のものになったというか、自分が次元に近づいていった」と述べている。小林本人の弁によると、次元の声は完全に地声であり、今まで演じてきた役の中で、最も無理をせずに自分にとって楽なトーンでしゃべれる役だという。また、次元大介は自分の集大成であり、自分と一体化した存在であると語っている。そのため、近年は意識していなくても人から「次元ですね」と言われることがあるといい、「役者冥利に尽きる、ありがたい話だ」と喜びを表している。軽薄なイメージのルパンとは対照的な、渋いイメージの次元のキャラクターであるが、ルパン役の山田康雄、及び山田の後任である栗田貫一がアドリブを多用するのとは対称的に、小林による演技は、ほとんどアドリブを入れず、一語一語しっかり発音している。山田康雄を「ヤスベエ」と呼び、プライベートでも親しい交友があったという。また、山田の没後に彼が専属で担当していたクリント・イーストウッドの吹き替えを幾つかの作品で引き継いでいる。ルパンの音楽を担当している作曲家の大野雄二によると、大野が母親を亡くした時に、小林は大野に「お前はマザコンっぽいところがあるから気を落とすなよ」という、まるで次元が励ましているかのような手紙を送ってきたという。2019年にモンキー・パンチが逝去した際は「あなたは 俳優小林清志 私を育ててくれた親であり、そして戦友でした」「どうぞ 栗田貫一はじめ いま在る戦友たち そしてルパン三世に関わる仲間と共にもう少しこのめくるめくルパン三世の世界で遊ばせておいてください」と追悼のコメントを発表している。小林が『ルパン三世』の中で一番好きな作品は、テレビスペシャル第4作の『ルパン三世 ロシアより愛をこめて』。その理由は、「次元が活躍する作品で、ロマンスもある」からとのこと。また、近年では次元大介をピックアップした『LUPIN THE IIIRD 次元大介の墓標』もお気に入り作品の一つに挙げており、「俺とお前はビジネスパートナーだ。仲間じゃない」というセリフがルパンと次元の関係性を表していて好きだとのこと。