又加上对中国人的不满，在1895年3月24日刺杀乘轿出行的李鸿章，枪击其左脸，但是未伤及李鸿章性命。李鸿章受伤，国际哗然。首相伊藤博文为了避免列强出面干涉，同意停战，李鸿章也成为第一个使用X光观察伤势的中国人。事后，法院判处小山无期徒刑，禁锢于北海道网走郡。1907年奉敕恩准假释。