绪二十三年（1897年），德国因巨野教案而派兵强行进入胶州湾，李秉衡认为“土地不可自我而失”，派兵与其相争，因此被罢黜，担任四川总督，但未到任便因德国压力而被罢免。光绪26年（1900年）担任巡阅长江水师大臣。八国联军进攻大沽后，李秉衡一度列名张之洞、刘坤一两总督倡议的东南互保，但随后力请募兵入卫京师，并在慈禧太后召见时极力主战；于是领四军出战，在杨村（今武清县）兵溃，退至通州（今北京市通州区）吞金自尽。 初谥忠节，随后联军将李秉衡列入事变祸首，要求严惩，清政府以秉衡先死而不予治罪，但下令追夺一切官职并撤销