中共八大上当选为中共中央委员。1959年4月任国务院副总理兼秘书长，负责国务院常务工作。他在国务院协助周恩来总理工作长达10年，参与国家重大方针、政策、法规的研究和制定，以及重要的国务活动和外交活动。个人秘书（1952年6月－1961年8月）是抗日期间解放日报记者田方，两人在抗日战争陕西结织，后来田方官至国家计委。1962年，李建彤着小说《刘志丹》开始在《光明日报》、《工人日报》、《中国青年报》上连载。先前，李建彤邀请习仲勋审阅小说稿。习仲勋认为，小说中并没有把刘志丹的真实写出来，提出要把小说写成三个缩