Kozyrev ble født i Brussel som sønn av en sovjetisk diplomat, og tjenestegjorde etter endt utdanning selv i den sovjetiske utenriksministeriet fra 1978 til 1990. Han kom inn i president Boris Jeltsins indre krets fra 1990 og ble etter Sovjetunionens sammenbrudd den første utenriksministeren i Den russiske føderasjon. Kozyrev ble ansett for å være venstreorientert og fikk kritikk fra blant annet medlemmer i den russiske Statsdumaen for å være altfor lydig mot vesten og ikke i tilstrekkelig utstrekning forsvare tradisjonelle russiske interesser på Balkan og i Jugoslavia.