Mens han bodde i eksil ble han en av Khomeinis nære rådgivere. Han ble en av lederne under revolusjonen i 1979 og ble først visestatsminister og deretter utenriksminister i den første regjeringen etter revolusjonen. Yazdi gikk av i protest da USAs ambassade ble inntatt og diplomatene tatt som gisler. Han kjempet mot de geistliges inntog i politiske maktposisjoner og ble derfor utstøtt av regimet. Yazdi ble senere medlem av partiet Irans Frihetsbevegelse og overtok som leder av partiet da Bazargan døde i 1995. Partiet ble undertrykket men tolerert av regimet. Han ble arrestert i 1997, men sluppet fri etter kort tid.