Nach einer Lehre als Kesselschmied ging der Sohn eines Weinhändlers zur Marine. Im April 1919 gehörte er als leitender Maschinist der französischen Schwarzmeerflotte an, die beabsichtigte, die weißen Truppen im Kampf gegen die Rote Armee zu unterstützen. Dies wurde durch eine Meuterei vor Sewastopol verhindert, die angeblich Marty in Gang gesetzt hatte. Zwar ist seine Rolle bei dieser Solidaritätsaktion umstritten, doch damals avancierte er über Nacht zum Helden der Sowjetunion und des Kommunismus überhaupt. Zu 20 Jahren Haft verurteilt, aber bald darauf begnadigt, schloss sich Marty 1923 der französischen Kommunistischen Partei an. Er stieg zum Abgeordneten der Nationalversammlung und Mitglied des Zentralkomitees auf. Um 1927 musste er wie viele andere aktive Antimilitaristen erneut ins Gefängnis. Von 1934 bis 1935 war er Chefredakteur des einflussreichen Parteiblattes L’Humanité.