Vid utbrottet av rysk-japanska kriget 1904 hade Nogi gått i pension, men kallades åter i tjänst och fick befälet över den japanska 3. armén. Han ledde sedan framgångsrikt sina trupper under belägringen av den ryska flottbasen Port Arthur, och bidrog samma år till den japanska segern i slaget vid Mukden.