再任山西省人民政府主席。
中国科学院时期.1956年当时中共中央号召“向现代科学进军”，提出制订《1956年至1967年科学技术发展远景规划纲要》的任务，并抽调张劲夫和裴丽生调入中科院。同年4月，他辞去山西省省长职务，奉调到中国科学院工作，任党组副书记、秘书长，负责生物学和地学等方面的工作。在他的努力下，中科院成立海洋研究所、冰川积雪冻土研究所、地质古生物所等。1960年，苏联单方面废除中苏两国政府经济技术合作协议，撤走在华专家，使中国科研处于困境。中国科学院决定集中力量加强国