Kort før den kinesiske regjering ansporte til grunnleggelsen av den kinesiske patriotiske katolske forening i 1957 for å fremme «patriotisme» innen Kinas katolske kirke under autonom ledelse, slapp biskop Zhang ut etter endt soning, og han vendte straks tilbake til sitt bispedømme. Men ettersom han offentlig forbød sine prester og sogneparn å tilslutte seg den patriotiske forening, ble han umiddelbart arrestert på nytt. Denne gangen ble han ilagt livstidsdom.