日本の連合艦隊と清国の北洋水師（中国北洋艦隊）との間に黄海上で明治27年（1894年）9月17日12時50分より行われた黄海海戦では、戦前の予想を覆し、清国側の大型主力艦を撃破し（日本側の旗艦「松島」の4217tに対し、清国側の旗艦「定遠」は7220tと、倍近い差があった）、黄海の制海権を確保した。この戦いは日清戦争の展開を日本に有利にする重大な転回点であった。清国艦隊はその後も抵抗を続けたが、陸上での敗色もあり、北洋艦隊提督の丁汝昌は降伏を決め、明治28年（1895年）2月13日に威海衛で北洋艦隊は降伏。丁汝昌自身はその前日、服毒死を遂げた。伊東は没収した艦船の中から商船「康済号」を外し、丁重に丁汝昌の遺体を送らせたことはタイムズ誌で報道され、世界をその礼節で驚嘆せしめた。戦争後は子爵に叙せられ　軍令部長を務めた。明治31年（1898年）に海軍大将に進んだ。日露戦争では軍令部長として大本営に勤め、明治38年（1905年）の終戦の後は元帥に任じられた。政治権力には一切の興味を示さず、軍人としての生涯を全うした。