1855年（安政2年）旧暦9月16日、日向国飫肥藩（現在の宮崎県日南市のほぼ全域および宮崎市南部）の藩士・小村寛平と梅子の長男として生まれる。父は飫肥藩の産物方を勤め、小村は6人兄弟として育つ。1861年（文久元年）、平部嶠南などを師範とした同藩の藩校、振徳堂に入る。帰藩した小倉処平が新教育下での国家有為の人材育成を求めて学生を招集、同藩の求めに応じて明治2年（1870年）に小倉に随伴して長崎に赴き、致遠館で同年5月から数ヶ月間英語を学ぶ。明治3年（1870年）、藩からの推薦を受けた貢進生として大学南校（東京大学の前身）に入学。第1回文部省海外留学生に選ばれてハーバード大学へ留学し、法律を学んだ。帰国後は司法省に入省し、大審院判事を経て、1884年（明治17年）に外務省に移る。陸奥宗光に認められて、1893年（明治26年）に清国代理公使を務めた。日清戦争から乙未事変にかけての混乱の後、三浦梧楼に替わって駐韓弁理公使を務め、在朝鮮ロシア総領事のカール・ヴェーバーと小村・ウェーバー覚書を交わした。その後、外務次官、1898年（明治31年）に駐米・駐露公使を歴任。1900年（明治33年）の義和団の乱では講和会議全権として事後処理にあたった。1901年（明治34年）、第1次桂内閣の外務大臣に就任。1902年（明治35年）、日英同盟を積極的に主張して締結に持ち込み、その功により男爵を授けられる。日露戦争後の1905年（明治38年）にはポーツマス会議日本全権としてロシアの全権ウィッテと交渉し、日露講和条約（ポーツマス条約）を調印。またこの後にアメリカの鉄道王ハリマンが満洲における鉄道の共同経営を提案したのを桂太郎総理や元老たちの反対を押し切って拒否している。このポーツマス条約締結の功により伯爵に陞爵する。1908年（明治41年）第2次桂内閣で再び外務大臣に就任すると、幕末以来の不平等条約を撤廃するための条約改正の交渉を行い、1911年（明治44年）に日米通商航海条約を調印して関税自主権の回復を果たした。日露協約の締結や韓国併合にも関わり、一貫して日本の大陸政策を進めた。韓国併合の功により侯爵に陞爵。同年の桂内閣総辞職に伴い政界を引退したが、同年11月26日、結核療養のために滞在していた葉山町の別荘で死去、満56歳だった。墓所は東京都港区の青山霊園にある。
1930年（昭和5年）に北海道で生まれたXが函館大火に焼け出されて弘前へ移り住んだのは、彼が3歳の時のことであった。子供の頃から那須とは顔見知りで、那須の弟とも尋常小学校で同級であったXは、国民学校高等科を卒業すると同時に15歳で国鉄弘前機関区へ就職した。Xは庫内手から機関助手見習、機関助士へと同期の誰よりも早く昇進し、先輩からの信頼も厚かった。しかし、1945年に日本が第二次世界大戦に敗戦すると、弘前にも進駐軍向けのダンスホールが林立し、夜毎そこに入り浸るようになったXは乗務に欠勤した挙句国鉄も退職した。その後は家業のミシン修理・販売業を手伝うようになったが、繁華街通いもやむことはなく、戦後に軍部から流出したヒロポンによってXの女遊びには拍車がかかった。やがてXは女性を路上で押し倒したり、ナイフで傷付けたりするようになり、付近の弘大医学部付属病院看護婦寮への侵入を繰り返した。1949年8月6日深夜、Xはヤスリをグラインダーで尖らせた手製のナイフを携行し、当時松永一家が寄宿していた先の家主の家へと向かった。家主宅には以前ミシンの修理で訪れたことがあったため、そこに若い娘がいることは知っていたが、松永一家が間借りしていることは知らなかった。ただ女性の体に触りたかっただけで姦淫する気はなかった、ナイフも護身用に持っていただけであった、とXは後に語っている。正面玄関は鍵がかかっていたので侵入を諦め、離れの松永宅へ辿り着いたXは、鍵のかかっていなかった縁側の戸を開けて8畳間へ侵入し、手前で横になっていたSの体に触れようとした。その時、Sが動いた気がしたXは反射的にナイフでSの喉を突いた。直後、子供の泣き声を聞いたXは現場から逃げ出し、途中で現場近くの井戸へ凶器のナイフを捨てようとしたが、現場から近過ぎる、と考え直して翌日に市内の映画館のトイレに投棄した。そいで雨戸がスッとあいて、身体はいる分だけあけて、膝かぶついて這っていったんだっちゃ。で、ホレ、蚊帳あったもんで、それもスッとあげて、女のひとが寝ていたんだっちゃ。胸のとこに、スッと手やるかなと思ったら、グッと動いたのさ。動いたような気したんだよな。こりゃ大変だ、目覚ましたら大変だって、いきなり、こっち〔右手〕で、グッと刺したのさ、咽喉のどこさ。したら、むこうで、グッと〔首を〕左サねじったもんで、切れだのさ。ボコボコって、水流れるみたいだ音して、そのまま抜いて逃げてきたんだっちゃ。 — Xに対する再審判決後のインタビューよりXが弘大医学部付属病院看護婦寮への侵入で市警に現行犯逮捕されたのは、それからおよそ1か月が経過した9月3日のことである。Xは拘置所では那須とも挨拶を交わす仲で、那須が自分の罪を被らされていることも知っていた。しかしXは、他の傷害や住居侵入については容疑を認めたが、Sの殺害については死刑を恐れて頑強に容疑を否認した。また、差し入れの弁当殻に忍ばせたメモで拘置所内からアリバイ工作を頼まれていたXの母、そしてX宅に泊まり込んでいた仕事相手もXのアリバイを証言したため、XはS殺害の容疑者から外された。やがてXは3件の事件について強姦致傷罪や強盗傷人罪などで起訴され、1950年6月に青森地裁弘前支部で懲役10年の有罪判決を受けた。仙台高裁秋田支部での控訴審でも1951年9月に懲役7年となり、やがて有罪が確定したXは青森刑務所へ収監された。那須の弁護に並行してXのこれらの事件の弁護も担当していた三上は、S殺害の真犯人はXであると那須の裁判で訴えたが、その主張は容れられなかった（上記参照）。5年ほど経ってXは仮釈放されたが、その直後の1957年（昭和32年）11月、またしても女性に対する強盗傷人容疑で逮捕された。一審青森地裁弘前支部で懲役7年の有罪判決を受け、およそ1年後に控訴審で逆転無罪となったが、その2か月後にも少女に対する暴行容疑で逮捕され、やがて不起訴処分となった。これに不貞腐れたXは1960年（昭和35年）2月に実際に女性に対する強盗傷人事件を起こし、最高裁まで争ったが懲役10年の有罪判決が確定し、秋田刑務所へ収監された。