制改革的决策，北方工业公司划归新成立的中国兵器工业集团公司管理；张国清以兵器工业集团党组成员、副总经理的职衔，继续兼任北方工业公司党委书记、副总裁。在此期间，他还在清华大学经济管理学院攻读数量经济学博士研究生；并于2001年9月至11月，参加了美国哈佛大学商学院高级管理培训班的学习。在2007年11月召开的中共十七大上，当选候补中央委员。2004年4月，任兵工集团副总经理、兼北方工业公司总裁；2008年10月，升任兵工集团总经理、党组副书记；并在2012年11月中共十八大上，当选中央委员。张国清在担任兵器工