Podczas I wojny światowej przedstawiciele wielu narodów dążących do niepodległości próbowali utworzyć narodowe oddziały w armiach wielkich mocarstw (np. Legiony Piłsudskiego). Żabotyński podczas pobytu w Egipcie zaproponował podobny pomysł władzom brytyjskim. Drugim pomysłodawcą Legionu Żydowskiego był Joseph Trumpeldor, były carski oficer pochodzenia żydowskiego, który stracił rękę w bitwie pod Cuszimą. Legion Żydowski miał walczyć u boku Brytyjczyków z Imperium osmańskim. W Egipcie znajdowało się wtedy wielu Żydów, którzy zostali wygnani z Palestyny przez tureckie wojska. Pierwszy oddział nazwany "Zion Mule Corps" został utworzony w latach 1915–1916 i pod dowództwem Trumpeldora wziął udział w bitwie o Gallipoli. Drugim oddziałem były ochotnicze bataliony Fizylierów Królewskich.