上院議員引退後の1997年1月24日から2001年1月20日までは第20代アメリカ合衆国国防長官を務めた。1998年にアルカーイダによりタンザニアのダルエスラサームとケニアのナイロビでアメリカ大使館爆破事件が起きた数ヵ月後にイラクでのの実施、ユーゴスラビアに対するアライド・フォース作戦の決定に関与した。2000年に欧州連合軍最高司令部最高司令官のの解任を行っている。