Witte rykket tilbake til forgrunnen 1905 da han ble kalt av tsaren for å forhandle frem en slutt på den russisk-japanske krig. Han reiste med friherre Roman Rosen til USA, der fredssamtalene ble holdt, og forhandlet med stor dyktighet på Russlands vegne. Til tross for at landet tapte stort på slagmarken (for eksempel slaget ved Tsushima), var Russlands tap ved fredsavtalen ytterst små.