Jiang gikk på skole i hjembyen Yangzhou til 1943, og fortsatte deretter på Det sentrale universitet i Nanjing. I 1945 vekslet han over til ingeniørstudiet ved Shanghai-Jiaotong-universitetet i Shanghai. Ett år senere ble han medlem av Det kinesiske kommunistiske parti, men uten å oppvise særlig politisk iver eller bekle noen tillitsverv i partiet. I 1949 giftet han seg med sin skolevenninne Wang Yeping.