1966年“文化大革命”开始以后,失去一切领导职务。1969~1973年间下放到江西省新建县拖拉机修造厂劳动。1973年3月恢复国务院副总理职务。1974年4月代表中国政府出席联合国第六届特别会议,在会上系统地阐述了毛泽东关于三个世界划分的理论。他主持起草了周恩来在第四届全国人民代表大会第一次会议上的《政府工作报告》。1975年1月任中共中央副主席、国务院副总理、中央军委副主席和中国人民解放军总参谋长。周恩来病重以后,在毛泽东支持下,他主持党、国家和军队的日常工作,针对“文化大革命”造成的混乱局面进行全面整顿,得到全国人民的衷心拥护,收到显著的成效。由于“四人帮”的诬陷,1976年4月又被撤销一切职务。
1976年10月“四人帮”被粉碎,“文化大革命”结束。1977年7月中共十届三中全会恢复了他原来担任的党政军领导职务。1977年8月召开的中共第十一次全国代表大会上,当选为中共中央副主席。1978年3月当选为中国人民政治协商会议第五届全国委员会主席。他首先推动思想路线的拨乱反正,反对“两个凡是”的错误方针,领导和支持开展真理标准问题的讨论,提出必须完整地准确地理解毛泽东思想。他还提出要尽快把全党工作重点转移到经济建设上来。
1978年12月召开的中共十一届三中全会,开辟了中国改革开放和集中力量进行社会主义现代化建设的新时期。他在这个会议上对中国共产党政策的历史转变起了决定性的作用。在为这次全会作准备的中央工作会议上,他发表《解放思想、实事求是,团结一致向前看》的讲话。经过这次全会,形成了以他为核心的中国共产党第二代领导集体。在1981年6月召开的中共十一届六中全会上,通过由他主持起草的《关于建国以来党的若干历史问题的决议》,根本否定了“文化大革命”,维护了毛泽东的历史地位,科学地评价了毛泽东思想。在这次会议上,他当选为中共中央军事委员会主席。1982年9月中共十二次全国代表大会召开,他在开幕词中提出:“把马克思主义的普遍真理同我国的具体实践结合起来,走自己的路,建设有中国特色的社会主义。”在十二届一中全会上当选为中央政治局常务委员。在中央顾问委员会第一次全体会议上当选为主任。在1983年6月第六届全国人大一次会议上当选为中华人民共和国中央军事委员会主席。