В края на 1917 година встъпва в Независимата социалдемократическа партия на Германия. Той оглавява нейната градска организация в Хамбург (1919) и я присъединява към Комунистическата партия на Германия (КПГ) през 1920 г. Става член на Централния комитет на КПГ (1922). Под негово ръководство е организирано Хамбургското въстание от 1923 г. Ръководи бойното крило на КПГ – организацията „Рот фронт“ (Съюз на борците от червения фронт). Избран е за председател е на ЦК на КПГ през 1924 г.