1900年，八国联军攻打大清帝国时任日本常备舰队司令。1904年，日俄战争中任日本联合舰队司令官。2月8日突袭俄羅斯帝國租地旅顺港内的俄国舰队。俄国的两艘铁甲舰、一艘巡洋舰顿时被击毁。同时，俄国军舰瓦利雅格号和柯列茨号，在朝鲜仁川也遭攻击。日本很快地夺得了制海权。4月，日本舰队大败俄国舰队，俄国太平洋舰队司令官马卡罗夫海军上将戰死。1904年6月6日晋升为海军大将。1904年8月10日指挥黄海海战，击败旅顺的俄国海军的突围。1905年5月27日指挥对马海峡海战，大破俄国长途奔袭的波罗的海舰队。此役决定了日俄战争中日本的最后胜利。此战前，他向全舰队发出信号旗：“已经发现敌舰，联合舰队即刻出动，今日天气晴朗但是波浪高”和“皇国兴废在此一战，各员一層奮励努力”的训令在日本家喻户晓。此战的胜利使得他也成了奥斯曼土耳其的平民偶像，有很多新生儿和街道以“TOGO”命名。