Jimmy Carter tarafından dışişleri bakanlığına atanan Vance Sovyetler Birliği ile Amerika Birleşik Devletleri arasında yumuşama politikasının sürdürülmesi ve bir silah indirimi antlaşması imzalanması için çaba gösterdi. 1978'de Mısır'la İsrail arasında yapılan Camp David ve ABD'nin Panama Kanal Bölgesi'nden çekilmesini öngören antlaşmalarının imzalanmasında önemli rol oynadı. 1979-80'de İran'da rehin alınan ABD diplomatlarının serbest bırakılması için büyük çaba gösterdi. Ama Carter'ın 1980 ilkbaharındaki başarısız kurtarma girişimine karşı çıktığı için bakanlar kurulundan istifa etti ve avukatlığa döndü.