华北日军见濑谷支队在台儿庄被围困后,一方面组织营救,同时又再次请求大本营,希望立即发动徐州作战。其理由是:“第二军的作战,始终是基于屡次报告的方针进行指导的,但与优势之敌已近于接触,形成对敌之所谓决战攻势,不能不予以迎击的形势”;“倘使敌人断然自由运用其兵力,很可能机动地对我进行各个击破”[11]。日本大本营是在战局不扩大方针下批准这次作战的。遭到台儿庄战役失败后,日本军部心犹不甘。接到台儿庄附近有大量中国军队,特别还有中央军主力的报告时,认为这是给蒋介石的主力一大打击,挫伤其抗战意志的好机会,于是决定立即进行徐州作战。
实施徐州作战,即意味着放弃收缩战面的计划。对日本军部来说,进入持久战态势毕竟是被迫的,如能通过速战速决方式即可解决对华战争,那真是求之不得。因此,为扩大这次作战的战果,大本营还决定把原定于明年进行的武汉作战,提前到徐州作战结束后立即进行。日本大本营陆军部于4月3日内定实行徐州作战后,当天即向现地军队传达,并召回现地军的参谋,研究作战细节。4月7日,正式下达徐州作战命令,令华北方面军司令官“以一部有力部队击败徐州附近之敌,占据兰封以东的陇海线以北地区”;令华中派遣军司令官“以一部协助华北方面军司令官,击败上项徐州附近之敌,并占据徐州(包括在内)以南的津浦线及庐州附近”[12]。