I årene som fulgte var Gu en effektiv rådgiver for etterretningstjenesten i Nanjing. Han begynte i all hemmelighet å organisere «Det nye kommunistparti», og ble da beordret skutt av Chiang. Henrettelsen fant sted i Suzhou.