3月12日，第27军团长张自忠过沂河驰援临沂。3月14日-3月18日，张自忠庞炳勋大败第五师团于临沂，第五师团逃至莒县。3月15日，第3集团军放弃邹县战线，撤退至滕县。3月14日，第十师团沿津浦路南下进攻滕县。3月17日，122师长王铭章死守滕县至阵地全毁，阵亡。3月20日，第五师团得到酒井旅团的支援，再次向临沂进攻，张自忠立即回防临沂，之后坂本支队由青岛赶到，也支援第五师团临沂作战。3月21日至3月25日，孙连仲已赶至徐州，开始在台儿庄部防，汤恩伯渡过大运河，开始与第十师团接战