Pierwotna formacja wojskowa powstała w marcu 1915 i nosiła nazwę "Korpus Mułów Syjonu" ("Zion Mule Corps"). Była to pomocnicza jednostka transportowa korzystająca z mułów. Powstała ona w Egipcie i składała się z 500 żydowskich ochotników, którzy zostali wydaleni przez Turków z Palestyny. Wzięli oni udział w walkach na półwyspie Gallipoli. Przez cały czas ci żydowscy ochotnicy opowiadali się za syjonistyczną ideą utworzenia żydowskiego państwa w Palestynie. Gdy w 1916 roku Brytyjczycy ewakuowali wojska z Gallipoli, żydowski korpus został rozwiązany, a żołnierze ewakuowani do Wielkiej Brytanii, gdzie stali się zalążkiem Legionu Żydowskiego.