Slaget dreide seg om en japansk plan om å erobre Xuzhou, en stor by i det østlige Kina. Japanerne glemte å ta høyde for generalene Li Zongren og Bai Chongxi, som planla å omringe japanerne i byen Tai'erzhuang. Den japanske operasjonen startet 24. mars. Overmot fikk de japanske lederne til å overse tusenvis av de uanselige «bøndene» i området, som infiltrerte og avskar kommunikasjonslinjer og forsyninger, flyttet vannløp og ødela jernbanelinjer. I slutten av mars ble det kastet ned forsyninger og brennstoff fra fly til de japanske troppene, men mengdene var utilstrekkelige.