Setelah berdirinya Negara Manchukuo pada Maret 1932, Zhang diangkat kembali untuk memimpin pasukan lamanya, yang sekarang dinamai Tentara Taoliao. Dia memimpin pasukan Manchukuo melawan pasukan Relawan Anti-Jepang selama Pasifikasi Manchukuo dan dalam invasi Jepang ke provinsi Rehe dalam peristiwa Pertahanan Tembok Raksasa. Setelah itu ia ditunjuk untuk memimpin pasukan baru yang disebut Pasukan Pengawal Rehe, setelah itu direorganisasi menjadi Tentara Distrik ke-5 Chengde oleh tentara Manchukuo. Dari Maret 1933 hingga November 1934 ia adalah Gubernur Provinsi Rehe. Ia dipromosikan menjadi jenderal penuh di Angkatan Darat Manchukuo pada tahun 1936. Pada tahun 1941 ia pensiun.