Kurz nach Beginn der Kriegshandlungen im Russisch-Japanischen Krieg wurde die 2. Armee am 6. März 1904 unter dem Kommando von General Oku Yasukata erneut aktiviert. Ihr unterstellt waren die 1., 3. und 4. Division sowie die 1. Artilleriebrigade. General Oku Yasukata landete auf der Liaoyang-Halbinsel bei Pitzuwo, zirka 80 km nordöstlich von Port Arthur. Die Landung am 6. Mai 1904 erfolgte ohne Gegenwehr und ab dem 13. Mai machten sich die japanischen Truppen auf in Richtung Port Arthur. Am 25./26. Mai kam es zur Schlacht am Nanshan, in der die Japaner gut befestigte russische Stellungen angriffen und sehr hohe Verluste erlitten. Im weiteren Verlauf des Krieges nahm sie an der Schlacht von Te-li-ssu (kurz vor der Schlacht stieß noch die 5. Division zur 2. Armee.), Schlacht von Tashihchiao, Schlacht von Liaoyang, Schlacht am Shaho, Schlacht von Sandepu und der Schlacht von Mukden teil. Nach Ende der Feindseligkeiten wurde die 2. Armee am 12. Januar 1906 aufgelöst.