Muskie keerde terug in de Senaat. In 1980 werd hij door president Jimmy Carter gevraagd als minister van Buitenlandse Zaken. Hij volgde Cyrus Vance op, nadat een geheime missie was mislukt om de Amerikaanse gijzelaars uit de VS-ambassade in Teheran, Iran te bevrijden.