Hij richtte in maart 1941 samen met Daniel Mayer de verzetsgroep Comité d'Action Socialiste op en werd in mei 1942 opgepakt. Hij zat enige tijd in een concentratiekamp gevangen, maar ontkwam in augustus 1942 via Spanje naar Londen en werd een van de socialistische raadgevers van generaal Charles de Gaulle. Daarnaast was hij commissaris voor Staatshervorming en lid van de "Assemblée consultative provisoire", Voorlopige raadgevende vergadering, in Parijs. Hij vergezelde in september 1943 De Gaulle tijdens die bezoek aan Frans Algerije. Hij werd op 10 november 1943 gekozen tot voorzitter van het Comité Français de la Libération Nationale in Algiers. Gouin keerde na de Bevrijding van Parijs in augustus 1944 naar Frankrijk terug.