Joulukuussa 1903 Tōgō nimitettiin Japanin yhdistetyn laivaston ylipäälliköksi. Hän sai amiraalin arvon seuraavan vuoden alussa, sodan Venäjää vastaan ollessa jo ovella. Hänellä oli nyt käytössään yli sata sotalaivaa, mukaan lukien neljä upouutta taistelulaivaa ja kahdeksan taisteluristeilijää. Lippulaivakseen hän valitsi taistelulaiva "Mikasan". Seitsemän taistelulaivaa ja yhdeksän risteilijää käsittänyt Venäjän Tyynenmeren-laivasto oli vahvempi, joten Japanin sotastrategia perustui yllätyshyökkäyksenä tehtävään ensi-iskuun. Vain päivää diplomaattisuhteiden katkaisemisen jälkeen ja ennen sodanjulistusta Tōgō iski 7.–8. helmikuuta 1904 välisenä yönä torpedoveneillä ja hävittäjillä Port Arthurin satamaan ankkuroitua Venäjän laivastoa vastaan, vahingoittaen kolmea venäläistä sotalaivaa. Tōgō pysäytti Port Arthuriin saarretun laivaston ulosmurtautumisyrityksen ja upotti lisää aluksia voitokkaassa Keltaisenmeren taistelussa 10. elokuuta 1904. Port Arthur antautui pitkän piirityksen jälkeen 2. tammikuuta 1905.