Après l'établissement de l'État du Mandchoukouo en , Zhang est renommé à la tête de ses anciennes troupes, maintenant renommées en armée de Taoliao. Il mène les troupes du Mandchoukouo contre les armées de volontaires anti-japonaises durant la pacification du Mandchoukouo et l'invasion japonaise de la province du Rehe lors de l'opération Nekka. Par la suite, il est nommé à la tête de la nouvelle armée de garde de Rehe. De à , il est gouverneur du Rehe. Il est promu général de l'armée du Mandchoukouo en 1936. En 1941, il prend sa retraite.