Som representant for Israel vant han Eurovision Song Contest 1978 sammen med gruppen Alphabeta med sangen «A-ba-ni-bi» (komponert av Nurit Hirsh og med tekst av Ehud Manor). Cohen representerte Israel igjen (denne gang med en navnløs gruppe korister) i 1985 og fremførte «Ole, ole» (musikk av Kobi Oshrat, tekst av Hamutal Ben-Ze'ev), og ble nummer fem.