Tras diversos viajes por África, incluido a Malí y Argelia, Halevi se trasladó a Israel en 1965, a la edad de 22 años. Él mismo ha afirmado: "Vine a Israel porque en Argelia descubrí la importancia del problema palestino. Me sentaba en cafeterías allí, oía a la gente, hablaba con intelectuales y entendí que la cuestión palestina preocupa a la gente del mundo árabe. Realmente está en el centro de sus obsesiones. Decidí que quería estudiar esta realidad de cerca y desde dentro (...) quería estudiar la realidad de Israel". Halevi se unió al movimiento de resistencia palestino, y a Fatah en concreto, tras la guerra de los Seis Días de 1967, tras lo que se convirtió en un importante miembro de la OLP. Fue nombrado representante de la OLP en Europa y en la Internacional Socialista, así como viceministro de Asuntos Exteriores de la OLP, y participó con dicho cargo en la Conferencia de Madrid de 1991. También formó parte del Consejo Revolucionario de Fatah, elegido en 2009, y trabajó como asesor de Yaser Arafat.