У 1970-х роках був наймолодшим, а після повторного призначення став найстаршим міністром оборони в історії США. 1983 року відвідав Ірак, де зустрівся з Саддамом Хусейном для обговорення допомоги США в іракській агресії проти Ірану. Загалом обіймав посаду міністрів оборони найдовше, крім Роберта Мак-Намари. Під час другого терміну був прихильником і основним виконавцем плану війни в Іраку. Відправлений у відставку 8 листопада 2006 після поразки республіканців на виборах до Конгресу 2006 року; його наступником Буш призначив Роберта Гейтса. Ці зміни затвердив Сенат США, і 18 грудня 2006 Гейтс офіційно змінив Рамсфелда на посаді. Разом із Полом Вулфовіцем належав до провідних неоконсерваторів США.