Da Republikken Kina ble evakuert, ble Zhang tatt med til Taiwan, der han fortsatt ble holdt i husarrest, nå i en villa i Taibeis nordlige forsteder. Han brukte tiden til å studere Ming-dynastiets dikterkunst.