Dopo le sue critiche alla politica di de Gaulle nel 1960, Massu fu rimosso dalla sua posizione di governatore militare di Algeri. Nel 1962 divenne governatore militare di Metz e della Sesta regione militare in Francia. Fu promosso a generale di corpo d'armata (4 stelle) nel 1963. Nel marzo del 1966 divenne generale d'armata (5 stelle) e divenne capo delle forze francesi in Germania. Il 29 maggio 1968 de Gaulle andò a trovarlo nella sua sede di Baden-Baden durante gli eventi del maggio 1968. Massu assicurò a de Gaulle il suo appoggio. Alcune fonti riportano che si discusse anche di un'amnistia a favore degli ex appartenenti all'OAS, già parzialmente introdotta negli anni precedenti, e che fu estesa da una legge del luglio 1968.