日俄战争时之第2军.始编制于日俄战争时之1904年（明治37年）3月6日，战后1906年1月12日始解散。
中国抗日战争时之第2军.中国抗日战争爆发后之1937年（昭和12年）8月23日编制成军，编入于新设立的北支那方面军之作战序列。主要之作战区域在华北地区。1938年12月15日废军。
太平洋战争时之第2军.中国抗日战争爆发后之1942年（昭和17年）7月4日编制成军，编入于第1方面军之作战序列。主要之作战区域在满洲。1943年10月30日转编