Pada 1935, Ho memulai karier diplomatik-nya pada Kementerian Luar Negeri Republik China. Ia pertama kali bertugas di Turki. Ia dilantik menjadi Sekretaris Pertama di legasi Tiongkok di Vienna pada 1937. Ketika Austria dianeksasi oleh Jerman Nazi pada 1938, dan legasi tersebut diturunkan menjadi konsulat, Ho menjabat sebagai Konsul-Jenderal.