有着三支舰队，分别为华北的第四舰队、华中的第三舰队以及华南的第五舰队。1939年（昭和14年）11月15日，日本海军开始着手修改中国方面舰队。原有的第五舰队更名为第二遣支舰队，司令长官为海军中将。第二遣支舰队在改名前后，着手进行了大亚湾登陆作战以及海南岛攻略作战。与第一、第三遣支舰队日后规模缩小、降格为根据地队不同，第二遣支舰队直到战败都一直保持着相当的规模。
第二次编成.1938年（昭和13年）6月左右，军令部事务当局制定了“昭和十三年度帝国海军作战计划”，向日本陆军作