Bai Chongxi var født i Guilin i Guangxi. Han var en etterkommer av en persisk handelsmann kalt Baiderluden. Familien skiftet senere navn til Bai. Bai Chongxi gikk på militærskole sammen med Huang Shaoxiong og Li Zongren.