中共河北省委常委；并在1987年11月召开的中共十三大上，当选中央候补委员。此后，陈玉杰仕途停滞，直到1994年3月，才晋升中共河北省委副书记；1996年7月，转任中共吉林省委副书记；2002年，进京担任中共中央金融工委副书记；2003年1月，接任国务院侨务办公室主任；2007年5月，退休。2008年3月，在第十一届全国人大第一次会议上，陈玉杰当选全国人大常委会委员、全国人大华侨委员会副主任委员。