Zamir innvandret sammen med familien fra Polen til det britiske Palestinamandatet da han var sju måneder gammel. I en alder av atten år begynte Zamir sin militære karriere, først som en soldat i Palmach, i en enhet som inkluderte flere fremtidige israelske ledere som f.eks. Moshe Dayan og Yitzhak Rabin. Under den arabisk-israelske krigen i 1948, kjempet Zamir i det nyopprettede Israels forsvar. Etter krigen fortsatte han å klatre oppover kommandokjeden. Zamir ble forfremmet til kommandør før han kort tid senere ble utnevnt til direktør for Mossad. I løpet av sin tid i Mossad var Zamir med på å gjennomføre Operasjon Guds vrede, den israelske responsen til München-massakren.