Kozyrev föddes i Bryssel som son till en sovjetisk diplomat och tjänstgjorde själv i det sovjetiska utrikesministeriet från 1978. Han ingick i president Boris Jeltsins inre krets från 1990 och blev efter Sovjetunionens upplösning Ryska federationens första utrikesminister 1991. Kozyrevs ansågs vara västorienterad, fick kritik från bland annat ledamöter i ryska duman för att vara allt för undfallande mot väst och inte i tillräcklig utsträckning försvara traditionella ryska intressen på Balkan och i det sönderfallande Jugoslavien. Han tvingades avgå 1996 och ersattes av den sedermera premiärministern Jevgenij Primakov.