Keskiluokkaiseen perheeseen syntynyt Rajavi on valmistunut metallurgian insinööriksi Teheranin Sharifin teknologisesta yliopistosta. Hän johti vuosina 1973–1979 MEK:ta lähellä ollutta opiskelijajärjestöä ja liittyi MEK:n jäseneksi vuonna 1977. MEK oli tuolloin šaahin vallastasyöksemiseen tähdännyt, islamia ja marxilaisuutta aatemaailmassaan yhdistänyt järjestö. Se kannatti aluksi Iranin vallankumousta, mutta kääntyi pian myös ajatollah Khomeinin johtamaa islamilaista hallintoa vastaan. Rajavi oli ehdokkaana vuoden 1980 parlamenttivaaleissa ja auttoi järjestämään Teheranissa Khomeinin hallinnon vastaisia mielenosoituksia huhti- ja kesäkuussa 1981. MEK:n suoritettua pommi-iskuja Iranin valtiojohtoa vastaan järjestön johto siirtyi maanpakoon Pariisiin.