En tragisk episode forekom. Ben-Gurion var redd for at enkelte grupperinger ville prøve å danne private hærer. Dette var bakgrunnen for dannelsen av IDF den 28. mai 1948. Våpenmakten skulle under kontroll. Irgun hadde samlet 900 frivillige og en mengde våpen i Europa som nå seilte mot Israel i et skip ved navn Altalena. Skipsnavnet var dekknavnet til Ze'ev Jabotinsky, som hadde dannet Irgun og som la Irguns ideologi. Ben-Gurion krevde at våpnene skulle overleveres IDF og at mennene skulle stille seg under IDF kommando. Irgun nektet og skipet gikk tilsist på grunn på stranden i sentrale Tel Aviv. Det brøt ut kamper mellom styrker fra IDF og Irgun og 15 mennesker ble drept. Altalena ble tilsist senket av artilleriild. Den 28. juni 1948 ble alle Israels væpnede styrker avkrevd en lydighetsed til Israel og Irgun opphørte å eksistere.