Chen ble medlem av Det kinesiske kommunistiske parti i 1960. Han tok utdannelse som skipsarkitekt ved Shanghai Jiaotong-universitet, og begynte sin karriere i partiets lederskikt i 1985. Fra april 1994 til oktober 1996 var han guvernør for provinsen Fujian og samtidig vise partisekretær for provinsen. Fra oktober 1996 til desember 2000 var han provinsens partisekretær.