龙江省委副书记，黑龙江省经济体制改革委员会主任。1987年起，历任黑龙江省人民政府副省长、中共黑龙江省委副书记、省委常委。1994年1月，陈云林辞去黑龙江省人民政府副省长职务。同年起，陈云林担任国务院台湾事务办公室副主任。1997年1月，出任国务院台湾事务办公室主任。2008年3月，出任第十一届全国政协港澳台侨委员会主任。2008年6月3日，当选海峡两岸关系协会会长，同时卸任国务院台湾事务办公室主任职务。任内，2008年11月，陈云林率海峡两岸关系协会(简称「海协会」)协商代表团访问台湾，成为海协会成立