17、第22、第23师团一道组建的步兵三个连队编制的师团。第21师团，同年7月15日完成集结并在北支那方面军治下占领地的徐州执行警备任务。曾参加1939年（昭和14年）2月的苏北作战和1941年（昭和16年）5月的中条山战役。同年11月起调至法属印度支那编入南方军。从下属部队中抽调出的永野支队参加第二次巴丹半岛攻略战，师团自1943年（昭和18年）12月起在印度支那驻屯军治下的北部法属印度支那执行警备任务。1945年（昭和20年）3月参加明号作战，同年8月在河内迎来终战。