共产党第十四次全国代表大会上被选举为中国共产党中央候补委员。1995年7月任国防科工委政治委员、党委副书记。1997年在中国共产党第十五次全国代表大会上被选举为中国共产党中央委员。1998年原国防科工委转型后，和国防科工委主任曹刚川一起调至新成立的总装备部，由曹继续任一把手担任部长，李任政委、党委副书记。2002年11月在中国共产党第十六次全国代表大会上连任中央委员，并被任命为中国共产党中央军事委员会委员，同时因曹刚川升任军委副主席，李担任任总装备部部长、党委书记。2003年当选第十届全国人民代表大