Forgjengeren til Haganah var Hashomer som ble etablert i 1909, og var en etterfølger av Bar-Giora, grunnlagt i 1907. Bar-Giora besto av en liten gruppe jødiske innvandrere som voktet jødiske bosetninger mot en årlig avgift. Ikke på noe tidspunkt hadde denne gruppen over 100 medlemmer. Etter arabiske opptøyer i 1920 og Jaffa-opptøyene i 1921 trodde det jødiske lederskapet i Palestina at de ikke kunne stole på den britiske administrasjonen for beskyttelse mot araberne, og dermed skapte jødene Haganah for å beskytte de mange jødiske bosetningene og kibbutzer.