Han har hatt ulike diplomatiske roller og poster siden 1990-årene. Han er også professor på Universitetet i Teheran, hvor han underviser i diplomati og internasjonale organisasjoner. Han var leder for den diplomatiske gruppen fra Iran til USA fra 2002 til 2007. Zarif og Rouhani regnes som landets ledende reformpolitiker og er i konflikt med de konservative i regimet.