During the Second Sino-Japanese War, Xiao served as Director of the Political Department of the Fourth Division of the New Fourth Army, under commander Peng Xuefeng, and then the same position in the Second Division based in the Huai River region, under commander Luo Binghui.
Pada Perang Tiongkok-Jepang Kedua, Xiao menjabat sebagai Direktur Departemen Politik Divisi Keempat Tentara Keempat Baru, di bawah komandan Peng Xuefeng, dan kemudian mendapatkan jabatan yang dalam dalam Divisi Kedua yang bermarkas di wilayah Sungai Huai, di bawah komandan Luo Binghui.