华北方面军合并，首先于中国南京设立了第一支总军「中国派遣军」，首任总司令官为西尾寿造大将。1941年11月6日，日本于发动太平洋战争的前一个月，另编成「南方军」，以利进军南洋群岛，首任总司令官为寺内寿一大将。1942年10月1日，德苏开战，日本又将驻扎于新京的「关东军」升格为总军（总司令官梅津美治郎大将），以作为日苏之间战争之准备。1944年后，日本在战争中节节败退，军方开始有人喊出「本土决战」的口号，1945年4月7日，日本将原本防卫总司令部改制为「第一总军」（总司令官杉山元大将，驻地东京）、「第二总军」