El 2001, com a Secretari de Defensa de George W. Bush, va supervisar l'atac dirigit pels Estats Units a l'Afganistan que va provocar la caiguda dels talibans, que estaven acollint Ossama bin Laden. El març del 2003, va orquestrar la invasió de les forces estatunidenques a l'Iraq que va derrocar el règim de Saddam Hussein, pel que va rebre elogis inicialment. Però, mentre continuaven els combats, va ser acusat de desplegar un nombre insuficient de tropes i, el 2004, va ser criticat pels abusos de soldats estatunidencs a presos iraquians a la presó d'Abu Ghraib a Bagdad. El 2006 va anunciar la seva renúncia i fou substituït per Robert Gates. Va fer una guerra costosa i divisiva a l'Iraq que, finalment, va destruir la seva vida política i en el seu comiat va advertir que abandonar l'Iraq seria un terrible error.