À sa création, son but était de défendre les communautés juives des attaques arabes, comme celles durant les émeutes de Jérusalem de 1920. Au départ, l'organisation était rattachée à diverses institutions comme la "Histadrout" et était de portée limitée, décentralisée et souffrait de déficits budgétaires. À partir des années 1930, elle commence à se développer en une force armée sous le commandement de David Ben Gourion. Lors de la grande révolte arabe, la Haganah coopère avec les forces armées britanniques, développe ses propres moyens de production d'armements et participe à l'immigration clandestine de l'aliyah Bet.