Fue el menor de una familia campesina de cuatro hermanos; aunque todos recibieron instrucción en los clásicos, la familia no pudo costear la educación de Feng ya que había vendido todas su propiedades para sufragar a sus hermanos mayores. Tuvo que ponerse a trabajar en diversos oficios y abandonó una academia en la que había ingresado por falta de dinero. Con 27 años marchó a Taku, donde un tío abuelo trabajaba en las oficinas de un batallón del Ejército de Anhui; Feng logró ingresar en la misma unidad, como ordenanza de su comandante. Este le recomendó a Li Hongzhang como alumno para la nueva Academia Militar de Beiyang que Li acababa de fundar en 1885. Buen alumno, solicitó una excedencia temporal para presentarse a un examen en el funcionariado imperial, que aprobó, aunque suspendió el siguiente; ese mismo año, 1888, volvió a la academia, de donde se licenció en 1890. Otros destacados caudillos militares del periodo republicano también cursaron estudios en la Academia Militar de Beiyang. Permaneció un año como instructor en la academia antes de partir a Port Arthur en 1891 desde donde realizó diversos viajes por Manchuria que fueron de utilidad al Ejército años más tarde en la guerra contra Japón.