I 1969 trådte han inn i de nygrunnlagte sosialistiske parti under partiets årsmøte i Alfortville. I 1971 deltok han ved partiets årsmøte i Épinay, der det ble utarbeidet et felles partiprogram. Han støttet i 1974 François Mitterrand i presidentvalgkampen. Mitterrand tapte med knapp margin mot Giscard d’Estaing. I 1977 ledet Bérégovoy forhandlingene med Det franske kommunistiske parti om et felles regjeringsprogram.