I sine år i Carters regjering gjorde han sitt ytterste for å fremme avspenning. Som utenriksminister oppnådde Vance forhandlinger og handelsavtaler med Sovjetunionen. Han kom ofte på kant med Zbigniew Brzezinski, den nasjonale sikkerhetsrådgiver, som la sterkere vekt på systemenes ideologiske motsetning, og holdt det for påkrevet å gjøre hva man kunne for å destabilisere Østblokken ved å utnytte ideologiske svakheter i sovjetsystemet og nasjonalistiske tendenser i sovjetrepublikkene. Vance forsøkte ved SALT-II-avtalen med Sovjetunionen å få i gang nedrustningsskritt. Dessuten bidro han vesentlig til at president Carter bestemte seg for å returnere kanalsonen til Panama, og han bidro til Camp David-avtalen mellom Israel og Egypt.