В 1920 г. вступил в Французскую коммунистическую партию, позже — в Коммунистическую партию Германии. В начале 1920-х гг. в Руре был политическим директором . В 1921 году «товарищ Гарри» был направлен компартией Германии в Москву в распоряжение Коммунистического интернационала молодёжи. Вернувшись в Германию, получил задание вести подпольную антивоенную работу против оккупации Рура французской армией. За деятельность в Рурской области французский суд в 1923 г. заочно приговорил его к десяти годам тюремного заключения.