McKinleys mest omstridte regjeringsoppnevnelse var John Sherman som utenriksminister. Sherman var ikke McKinleys førstevalg til posten, som han først tilbød til senator Allison. Et motiv bak utnevnelsen av Sherman var å frigjøre en plass i Senatet til Hanna, som på sin side hadde avslått tilbudet om å bli postminister. Ettersom Sherman hadde vært finansminister under president Hayes, var det sannsynligvis bare utenriksministerposten som kunne lokke ham vekk fra Senatet, hvor han hadde sittet siden borgerkrigen. Den 73 år gamle Sherman var mentalt svekket av alderdom allerede ved utnevnelsen. Dette var velkjent i det politiske miljøet, men McKinley avfeide ryktene. Dessuten spiste McKinleys fetter middag med Sherman, og gikk god for senatorens fysiske og mentale helse etterpå.