Lin rauhanponnisteluista huolimatta Kiinan ja Japanin välille puhkesi Korean kiistan vuoksi vuonna 1894 sota, jonka Kiina hävisi. Taisteluista japanilaisia vastaan vastasi pääasiassa Lin alainen pohjoinen sotalaivasto. Hän joutui näin epäsuosioon sodan vastoinkäymisten vuoksi, vaikka olikin itse vastustanut sotaan lähtemistä. Helmikuussa 1895 Li kuitenkin lähetettiin Japaniin neuvottelemaan rauhasta. Neuvottelujen aikana japanilainen fanaatikko yritti surmata hänet ampumalla, mutta hän selvisi hengissä ja kykeni päättämään neuvottelut, joiden lopuksi solmittiin 17. maaliskuuta 1895 Shimonosekin rauhansopimus. Rauhanehdoissa Kiina joutui luovuttamaan Japanille Formosan saaren ja Liaotungin niemimaan, tunnustamaan Korean itsenäisyyden, maksamaan sotakorvauksia, avaamaan lisää sopimussatamia sekä myöntämään Japanille Kiinan suhteen samat edut, kuin mitä se oli aiemmin joutunut myöntämään länsimaille. Länsimaiden ja erityisesti Venäjän painostuksesta sopimusta muutettiin pian siten, että Liaotungin niemimaa palautui Kiinalle maksua vastaan.