Xue Yue var en hakka-kineser født i en bondefamilie. Han meldte seg til hæren i 1914, da han var 18 år gammel. Noen år senere, da Chiang Kaishek grunnla militærakademiet i Whampoa, var Xue en av kandidatene.