Etter gjenvalget av Mitterrand ble Rocard utnevnt til statsminister. Rocard var meget populær blant velgerne og hans posisjon til høyre blant sosialistene stemte godt overens med valgkampanjens slagord: «et forent Frankrike». Som statsminister ledet han spørsmålet om Ny-Caledonia, som endte med problemer i territoriet. Hans bedrifter omfatter også en synkende arbeidsløshet og storskala reformer innen finansieringen av velferdsstaten, fremfor alt .