Pave Pius XII utnevnte ham til biskop De Smedts koadjutorbiskop den 3. november 1949, og De Smedt bispeviet ham 24. mai 1951. Noen uker etter ble biskop DeSmedt arrestert. Han ble syk og døde i fangenskap den 24. november samme år. Dermed rykket biskop Zhang inn automatisk som ny ordinarius. Men straks etter ble han selv arrestert og dømt til fem års fengsel.