耀邦和中组部部长宋任穷、书记处书记万里先后与他沟通，提出让他主政山西，解决文化大革命后山西发展问题。1983年3月至1991年3月，任中共山西省委书记，他也是中共建政以来唯一一位干满两届任期，善始善终，安全退休的山西最高领导人。1987年，因为保举同乡华国锋在中共十三大上复出接替刚下台的胡耀邦，受到邓小平严厉批评。1991年3月至1992年11月，任中共山西省顾问委员会主任。1993年3月，当选为第八届全国人大常委会委员。中共第十二届、十三届中央委员。他离职着有《往事回顾》，由中共党史出版社于2008年