国务院台湾事务办公室
1994年1月，陈云林辞去黑龙江省人民政府副省长职务。同年起，陈云林担任国务院台湾事务办公室副主任。1997年1月，出任国务院台湾事务办公室主任。2008年3月，出任第十一届全国政协港澳台侨委员会主任。2008年6月3日，当选海峡两岸关系协会会长，同时卸任国务院台湾事务办公室主任职务。任内，2008年11月，陈云林率海峡两岸关系协会(簡稱「海協會」)协商代表团访问台灣，成为海协会成立以来首位应邀访问台湾的会长。 在訪臺期間，發生了爭議與衝突。2013年4月26日，在海峡两岸关系协会第三届理事会第一次会议上，陈德铭被推举为新任会长。