Han var 1962 fra 1964 statssekretær for den amerikanske armé. Som stedfortredende forsvarsminister (1964–1967) under president Lyndon B. Johnson gikk han først inn for det amerikanske engasjement i Vietnamkrigen. Men han endret oppfatning mot slutten av 1960-årene og rådet presidenten til å trekke styrkene tilbake fra Vietnam. I 1968 var han stedfortreder for W. Averell Harriman ved fredsforhandlinene i Paris.