文革爆发后被解职，被作为走资派残酷批斗。1972年以后任中共黑龙江省委书记。文革后，在辽宁短期工作（其间主持了张志新的平反），任中共辽宁省委第二书记、第一书记，在真理标准大讨论中率先反对“两个凡是”。1980年11月，他被邓小平派到广东，领导广东的改革开放。在广东早期最艰难、来自上下压力最大的改革开放时期，任仲夷发挥了重要的作用。此段时期的政绩，亦成为他一生中最重要的政绩。广东的先行一步，亦对带动全国改革起到广泛影响。退休后，他仍然十分活跃于公共事务，除了参加党与政府的会议，亦经常发表讲话、发表文章