Elokuussa 1980 Iranin parlamentti valitsi Rajain pääministeriksi. Virka oli ollut täyttämättä marraskuussa 1979 tapahtuneesta Bazarganin erosta asti. Ennen Rajain valintaa presidentti Abolhassan Banisadr oli ehdottanut pääministeriksi kolmea muuta henkilöä, mutta parlamentti ei ollut hyväksynyt heitä. Rajai ja Banisadr eivät tulleet toimeen keskenään ja ajautuivat nopeasti valtataisteluun. Banisadr piti Rajaita sopimattomana pääministeriksi ja hylkäsi veto-oikeudellaan seitsemän Rajain hallitukseensa valitsemista 21 ministeriehdokkaasta syyskuussa 1980. Islamilaisen tasavaltalaispuolueen hallitsema parlamentti kuitenkin tuki Rajaita. Hän julisti jatkavansa islamilaista vallankumousta ja kohdistavansa sen varsinkin kapitalisteihin, jotka olivat siihen saakka saaneet olla rauhassa. Hänen pääministerikaudellaan alkoi Irakin–Iranin sota syyskuussa 1980 ja pitkään jatkunut Iranin panttivankikriisi ratkesi panttivankien vapauttamiseen tammikuussa 1981.