1968年9月任南京军区副司令员、安徽省委第一书记。李德生在安徽平息武斗、稳定局势的举措，受到毛泽东肯定，1969年，李德生被调到北京，先是被任命为中国人民解放军总政治部主任，1971年又被任命为北京军区司令员。1973年，在中国共产党第十次全国代表大会上，周恩来提名李德生作为“老中青三结合”当中的“中”的代表进入大会主席团。李德生当选为中央政治局委员、常委、副主席。1973年底，李德生被调到东北任沈阳军区司令员，1975年1月在十届二中全会上辞去中共中央副主席的职务。1985年11月任中国人民解放军国防大学政治委員。1990年离休。