Mellom 1920 og 1929, manglet Haganah en sterk sentral myndighet og koordinering. De forskjellige enhetene var svært lokaliserte og dårlig bevæpnet. De besto hovedsakelig av jødiske bønder som voktet sine egne gårder og i fellesskap voktet deres kibbutzer. Etter de palestinske opptøyene i 1929, endret Haganah sin rolle seg dramatisk. Det ble en mye større organisasjon som omfattet nesten alle de unge og voksne i de jødiske bosettingene, samt tusenvis av medlemmer fra byene. De kjøpte også våpen fra utlandet og lagde sine egne håndgranater og enkelt militært utstyr, og forandret seg fra en utrent milits til en dyktig militær enhet.