Sammen med David Ben-Gurion, tjenestegjorde Yitzhak Ben-Zvi i den jødiske legion. I 1919 var han medvirkende til grunnleggelsen av det sosialdemokratiske politiske partiet Achdut HaAvodah og ble i stadig økende grad aktiv i Haganah.