Jiang ble medlem av det kinesiske kommunistparti i februar 1947. Han fikk en lang karriere i partiapparatet og i statsapparatet, og var blant annet guvernør i Shandong, generalsekretær for kommunistpartiet i samme provins, og Folkerepublikkens visestatsminister. Han var medlem av sekretariatet for partiets sentralkomite og av politbyrået.