Chômeur, il s'engage pleinement dans l'activité militante et devient permanent de la section française du Secours Rouge en 1932. Il bifurque, en 1934, vers l'appareil d'encadrement du PCF, en devenant secrétaire-adjoint de la région Paris-ville. Il participe au premières loges à la mise en place de la politique du front populaire. En , il est candidat aux élections municipales sur le quartier Charonne. Son destin bascule après une rencontre avec le délégué en France de l'Internationale Communiste, Eugen Fried. Sous la fausse identité de « Barthel », il gagne l'Algérie, pour aider à constituer le Parti communiste algérien (PCA) dont le premier Congrès se tient en . Il défend alors les thèses d'une lutte différenciée entre pieds-noirs et musulmans. Mais, poursuivi par la police pour action et écrits anticolonialiste, il doit quitter l'Algérie, non sans avoir défendu lors des élections de , les couleurs du PCA, en tant que candidat à Bab-el-Oued. Il gagne alors l'Espagne, où l'un de ses frères a trouvé la mort en combattant dans les Brigades internationales. Il y est Commissaire politique aux Brigades, participe aux combats de Jarama, mais, malade doit rentrer en France. C'est sous le nom de Barthel qu'il est élu membre du Comité Central du PCF, lors du IX Congrès tenu à Arles en . Il est instructeur auprès de la Fédération des Jeunesses communistes.