2师团在中国抗日战争爆发后的1938年（昭和13年）4月4日，以负责占领地的警备和维持治安为目的，与第15、第17、第21、第23师团一道被编成为步兵三个连队制师团（三单位师团）。编成由留守第14师团负责，补充由留守第2师团负责。编成完成后被派遣往中国大陆，隶属中支那派遣军（指挥官为畑俊六大将）麾下并参加武汉会战。之后被编入第13军（指挥官为西尾修造大将）。在第13军属下负责杭州的警备任务，1940年（昭和15年）的江南作战、1941年（昭和16年）3月的太湖西方作战以及在浙东、皖浙的历次战斗中与中国第