光緒20年（明治27年、1894年）、李氏朝鮮に対する宗主権を巡って清と日本の対立がより悪化した際、淮軍と北洋艦隊の練度では勝ち目がないと考えたため開戦には反対の立場を取ったが、西太后の甥光緒帝を始めとする両国の主戦派によって戦端は開かれ、日清戦争が始まった。李鴻章の予測通り淮軍と北洋艦隊は日本軍の戦闘（平壌の戦い、黄海海戦）で連戦連敗、11月に北洋艦隊の基地旅順が陥落（旅順口の戦い）、光緒21年（明治28年、1895年）1月から2月にかけてもう1つの根拠地威海衛も日本軍に落とされ（威海衛の戦い）、腹心で北洋艦隊提督の丁汝昌が自殺するに及んで李鴻章の権威は失墜した。