Ved tilbakekomsten til Kina sluttet han seg til Kuomintang (KMT) og ble leder for Departementet for bønder og arbeidere under Liao Zhongkai. Han ble regnet som tilhørende KMTs venstreklikk sammen med Wang Jingwei, som han utviklet tette politiske og personlige bånd til. Selv om han spilte en viktig rolle under Chiang Kai-sheks Nordekspedisjon, var han en sterk motstander av Chiang og støttet heller Wang da Chiang begynte å utøve diktatorisk makt. Han syntes særlig at det var urimelig av Chiang å fjerne Wang fra KMTs lederskap ved et militærkupp i 1926.