到任便因德国压力而被罢免。光绪26年（1900年）担任巡阅长江水师大臣。八国联军进攻大沽后，李秉衡一度列名张之洞、刘坤一两总督倡议的东南互保，但随后力请募兵入卫京师，并在慈禧太后召见时极力主战；于是领四军出战，在杨村（今武清县）兵溃，退至通州（今北京市通州区）吞金自尽。 初谥忠节，随后联军将李秉衡列入事变祸首，要求严惩，清政府以秉衡先死而不予治罪，但下令追夺一切官职并撤销恤典。
评价.由于资料匮乏，研究他的学术文章不多。学者对其语多肯定，称其一生清政廉明、忠君体国、勤政爱民。部份后