Рођен је у породици јеврејских сељака из данашњој централној Украјини. Као младић се 1901. године прикључио Руској социјалдемократској радничкој партији, а 1903. њеној бољшевичкој фракцији, поставши блиски сарадник њеног вође Лењина. Са њиме се, међутим, накратко посвадио непосредно пред Октобарску револуцију 1917. године, изразивши своје противљење плану за насилно преузимање власти. У пролеће 1918. године, у драматичним околностима грађанског рата, се вратио у партијско вођство те с временом стекао довољно политичког капитала да 1919. постане први председник Коминтерне. За време рата се, пак, посвађао са Лавом Троцким који му је следећих година био главни супарник у борби за контролу над Партијом.