I 1927, etter 12. april-hendelsen, ble han aktiv medlem i kommunistenes underjordiske bevegelse sammen med Zhou Enlai, hadde en rekke verv og ble etterhvert leder for politbyråets sikkerhetstjeneste. Han dro omkring som tryllekunstner, og var blant annet med dette som dekke for sine reiser personlig med på drap av forrædere innen den kommunistiske bevegelse. Han var en av kommunistenes mest fremgangsrike snikmordere.