制为军，下辖数个师团，但侵华战争开始后，日军大幅征召兵员，扩建陆军，方于军之上再设立方面军及总军的编制。1939年9月12日，日本陆军省为因应侵华战争的需要，将华中方面军与华北方面军统合，首先于中国南京设立了第一支总军「中国派遣军」，首任总司令官为西尾寿造大将。1941年11月6日，日本于发动太平洋战争的前一个月，另编成「南方军」，以利进军南洋群岛，首任总司令官为寺内寿一大将。1942年10月1日，德苏开战，日本又将驻扎于新京的「关东军」升格为总军（总司令官梅津美治郎大将），以作为日苏之间战争之