A los 28, Peng era comandante de una brigada en el ejército del Kuomintang y había empezado a interesarse en la política; cuando en 1927 Chiang Kai-shek empezó una purga de los oficiales del ejército sospechosos de cuestionar su régimen, Peng se unió al Partido Comunista de China y participó en la Larga Marcha dirigiendo el "Tercer Ejército" durante dicha operación.