הארמייה היפנית השישית הוקמה לראשונה ב-4 באוגוסט 1939 כחיל מחיל המצב היפני במנצ'וריה, שנועד להגן על האזור מפני פלישה אפשרית של הצבא האדום. ב-11 במאי החשש אכן התגשם, וסכסוך פרץ בין האימפריה היפנית לברית המועצות שנודע בשם "תקרית נומונהאן". בקרב חלקין גול ספגה הארמייה הפסדים קשים ולקח לה זמן להתאושש. לאחר הקרב, הועברה לאזור העיר האילר במונגוליה הפנימית, העיר הייתה בסיס הצבא היפני באזור. במהלך מלחמת סין–יפן השנייה, היא לא לקחה חלק פעיל ושימשה בעיקר כחיל מצב וכוח מילואים.