Les premières années de Zhang Zuolin sont mal connues. Il est né dans une famille de paysans pauvres appartenant à l'ethnie mandchoue. Il est recruté en 1895 par l'armée chinoise, et combat dans la guerre contre le Japon. La défaite de la Chine, face à un ancien vassal, est cuisante. Zhang Zuolin, qui a déserté, devient chef d'une bande de malfaiteurs en Mandchourie.