调到中共中央调查部工作。1955年，中共中央成立对台工作小组及其办公室（办公室简称对台办）。对台办设在中共中央调查部，办公室主任由周恩来总理办公室主任齐燕铭兼，杨荫东负责具体工作。“文化大革命”后期，杨荫东兼任对台办副主任，任内配合中央有关部门参加了特赦战犯及台湾武装特务，清理监狱，宽大释放国民党县团以上人 员，落实投诚起义人员政策，处理右派等工作，持续五年。1979年底，邓小平亲自主持对台工作，邓颖超、廖承志负责中央对台工作领导小组，对台办被列为中央直属单位，杨荫东任对台办副主任。1982年春升任主任