In Giappone He divenne un oppositore della Dinastia Qing e si unì al Tongmenghui, il movimento rivoluzionario democratico fondato da Sun Yat-sen. Tornato in Cina nel 1911, dopo la Rivolta di Wuchang, He partecipò alla Rivoluzione Xinhai contro la monarchia e dopo la proclamazione della Repubblica nel 1912 divenne collaboratore del governatore di Shanghai Chen Qimei. Tuttavia il conflitto tra il Tongmenghui e il nuovo presidente Yuan Shikai lo costrinse a espatriare di nuovo: tornò in Giappone dove completò la sua formazione militare. Tornato di nuovo in Cina, nel Guizhou, nel 1916, con la raccomandazione del figlio di Liu Xianshi, governatore della provincia, divenne colonnello comandante del 4º Reggimento provinciale.