Hu terpilih menjadi anggota komite eksekutif pusat dalam konferensi pertama Kuomintang pada bulan Januari 1924. Pada bulan September, ia bertindak sebagai wakil generalissimo, ketika Sun Yat-sen meninggalkan Guangzhou ke Shaoguan. Sun meninggal di Beijing pada Maret 1925, dan Hu adalah salah satu dari tiga tokoh terkuat di Kuomintang. Dua lainnya adalah Wang Jingwei dan Liao Zhongkai. Liao dibunuh pada bulan Agustus pada tahun yang sama, dan Hu dicurigai dan ditangkap. Setelah Pembantaian Shanghai pada tahun 1927, Hu mendukung Chiang Kai-shek dan menjadi kepala Yuan Legislatif di Nanjing.