Він народився в Курбевуа (О-де-Сен) у протестантській сім'ї, його батько — фізик-ядерник Ів Рокар. В політику Рокар прийшов під час навчання в Паризькому інституті політичних досліджень. Він став головою організації Французькі соціалістичні студенти (пов'язаної в основному з французькою Соціалістичною партією, що у той час називалася Французька секція робітничого інтернаціоналу (СФІО)), і навчався в Національній школі Адміністрації (ENA). Працюючи фінансовим інспектором (посадовою особою) він відправився в Алжир і написав звіт про ігнорування таборів біженців під час Алжирської війни (1954—1962).