הארמייה הרביעית הוקמה לראשונה ב-24 ביוני 1904, במהלך מלחמת רוסיה–יפן, בפיקוד גנרל נוזו מיכאצורה, על בסיס כוחות מילואים שונים שנועדו לתגבר את הכוח היפני בשן-יאנג. ב-24 באוגוסט, לקחה הארמייה חלק בקרב ליאויאנג. ב-19 בפברואר 1905 בקרב מוקדן. לאחר שהמלחמה הסתיימה בניצחון יפני מוחץ, פורקה הארמייה ב-17 בינואר 1906.