Etter Golda Meir sin avgang som statsminister i 1974 beseiret Rabin Shimon Peres i valget om ny partileder i det israelske arbeiderpartiet. Rivaliseringen mellom Yitzhak Rabin og Shimon Peres forble hard, og de konkurrerte flere ganger om rollen som partileder i løpet av de neste to tiårene. Rabin etterfulgte Golda Meir som statsminister i Israel den 3. juni 1974. I Rabins første periode som statsminister ga han ordre til Operasjon Entebbe, der israelske militære gjennomførte en operasjon for å redde passasjerene på et passasjerfly som var kapret av Folkefronten for Palestinas frigjøring. Rabin ble etterfulgt som statsminister av Menachem Begin den 20. juni 1977.