文化大革命结束后，陈云在1977年3月中央工作会议上，表示拥护邓小平复出工作的立场，7月，邓小平在叶剑英的支持下复出，开始拨乱反正，并提出毛泽东思想的精髓是——实事求是。。1978年7月31日，向李先念提出，国务院务虚会最好用几天时间，专门听听反对方意见，“出国考察的人回来吹风，下面也往上面吹风，要引进度多少亿，要加快速度。无非一个是借款要多，一个是提出别的国家八年、十年能上去，我们可不可以再快一点。”“有些同志不大好讲话。务虚会上很少有人提出反对意见。”11月12日，陈云在中央工作会议上发言，指部分批判四人帮揭发出来的问题要由中央作考虑或决定；指出应对六十一人叛徒集团案、彭德怀案、四五天安门事件平反，并对康生在文化大革命所犯的种种罪行予以批评调查。陈云的发言得到很大响应，大量出席者就陈云的意见提出反应，会议展开突破性进展。12月18日-22日，他出席中共十一届三中全会，被增补为中共中央政治局常委、中共中央副主席，并且被选为中央纪委第一书记，分管中央纪律检查委员会和公安、检察、法院、民政等中央政法部门；他指出中纪委的基本任务，是“维护党规党法，整顿党风”。之后他积极参与从事审理文化大革命时期的冤假错案，并对受到迫害的人们进行追悼、平反，会上反对华国锋“两个凡是”理论。1979年2月，邓小平请求陈云协助分析中越边境冲突，在陈云的支持下，邓小平命令发动中越战争，战争在一个月后结束。同月，中纪委会同中央组织部对刘少奇案件进行复查，最终形成平反决定。