虽然临沂与台儿庄两次战斗均获得胜利，但之后由于日寇华北与华中派遣军共派出7个师团与两个独立旅团，从南、北两路在5月上旬切断了徐州西面的交通线，集中于徐州的部队有被包围之虞。于是国军主力于5月18日起往西南撤出徐州，第五十九军负责断后。至6月1日，第五十九军退至许昌后才停止。当武汉会战于6月11日展开时，第五十九军在豫南与日寇作战，直到9月6日奉命至潢川以掩护鄂北部队的集结。从6日至18日，第五十九军与日寇第10师团（师团长篠冢义男）展开潢川的争夺战。由于日寇从6月16日起对第五十九军施放毒气，且在18日切断了潢川西方的交通线。鉴于已达成掩护的任务，张自忠在19日凌晨下令部队从潢川西南方突围。