Wu Peifu fikk en tradisjonell kinesisk oppdragelse, og begynte etterhvert på Baoding-Militærakademiet (保定軍校) i Beijing og ble yrkesmilitær. Han steg raskt i gradene. Han sluttet seg til (新軍, fra 1902 kalt Beiyangarmeen) opprettet av den moderniserende Qing-generalen Yuan Shikai. Etter Qing-dynastiets fall i 1911 og etter at Yuan ble president for Republikken Kina og hans senere feilslåtte forsøk på å kåre seg selv til keiser, ble den politiske makten i landet raskt fragmentert mellom en rekke regionale militære kommandanter. Dette innledet den epoken som går under navnet «krigsherretiden».