Hsieh kom fra en bondefamilie. Han fikk sin grunnutdannelse i Taichung, og gikk senere på Sun Yat-sen-universitetet der han ble uteksaminert i 1928. Etterpå arbeidet han i pressen i Hongkong og Guangzhou.