После прекращения огня многие еврейские солдаты были освобождены от службы и вернулись домой. Сам Марголин остался в Палестине в качестве офицера британской армии. Когда в декабре 1919 года все три батальона Еврейского легиона были объединены в одно подразделение — 1-й еврейский батальон Иудеи, — Марголин был назначен его командиром. Новый батальон получил собственную форму и символику, языком команд стал иврит, хотя подразделение по-прежнему оставалось частью британских вооружённых сил. Весной 1920 года, во время арабских беспорядков в Палестине, Марголин отправил своих солдат в арабские деревни, остановив дальнейшее кровопролитие. Год спустя, в мае 1921 года, палестинские арабы начали еврейский погром в Яффе. В ответ Марголин без санкции командования разрешил отрядам еврейской самообороны использовать оружие с британских военных складов, чтобы противостоять погромщикам. Сам он во главе примерно 300 солдат организовал противодействие арабам в Тель-Авиве.