Under nordekspedisjonen fra 1926 til 1928 var Bai en av lederne for den nasjonale revolusjonshæren, og han fikk æren for flere seiere over krigsherrene i nord. Bai brukte ofte fart manøvrering og overraskelse til å beseire større fiendtlige styrker. Han ledet østrutehæren, som erobret Hangzhou og Shanghai i 1927. Som garnisonskommandør for Shanghai tok Bai del i utrenskelsen av kommunistiske fløyer i hæren og fagforeningene i Shanghai. Bai kommanderte de styrkene som først inntok Beijing, og fikk æren for å være den senioroffiseren som fullførte nordekspedisjonen. For sine mange bedrifter under nordekspedisjonen fikk han kallenavnet , bokstavelig talt lille Zhuge. Mange kinesere regner Zhuge Liang som tidenes beste strateg.