Zinovjev sluttet seg til det russiske arbeiderpartiet i 1901, og etter splittelsen mellom bolsjeviker og mensjeviker fulgte han bolsjevikene. I 1905 ble han redaktør for avisa Proletary, og i 1908 ble han arrestert for sine politiske synspunkter, men frigitt grunnet dårlig helse. Deretter sluttet han seg til Lenin i Sveits, og forble en av hans nærmeste medarbeidere.