I en alder av 33 år slo han seg ned i Israel. Først ved slutten av 1959, tre år etter at han var innvandret til Israel, fikk Cohen, som ved siden av hebraisk også talte arabisk, engelsk og fransk, vite at den israelske etterretningstjenesten Mossad i lengre tid hadde interessert seg for ham. Han var imidlertid på listen over de navn man hadde vurdert, men forkastet.