Im Alter von 24 Jahren übersiedelte Schwartzbard nach Paris und fand dort Arbeit in einer Uhrenfabrik. Seinen anarchistischen Ansichten blieb er jedoch weiterhin treu. Während des Ersten Weltkrieges diente er von 1914 bis 1917 in der französischen Fremdenlegion (363e régiment d' infanterie), wurde während der Schlacht an der Somme am Fuß verwundet und mit dem Croix de guerre ausgezeichnet. Im August 1917 wurde er demobilisiert und ging nach der Februarrevolution mit seiner Frau nach Russland zurück. Von 1918 bis 1920, während des russischen Bürgerkrieges, diente er in der sowjetischen Roten Armee in der Ukraine in einer Kavalleriebrigade unter dem Befehl des Armeekommandanten Grigori Iwanowitsch Kotowski. Schwartzbards Bruder wurde 1919 wegen kommunistischer Propaganda aus Frankreich ausgewiesen. Fünfzehn Familienangehörige Schwartzbards wurden in antijüdischen Pogromen während des Russischen Bürgerkriegs getötet.