Ezra tjenestegjorde i Israels forsvar mellom 1955 og 1958. Han studerte statsvitenskap og geografi ved Universitetet i Haifa før han begynte ved Shin Bet i 1962. I 1995 sluttet Ezra i Shin Bet, og begynte som rådgiver for minister Moshe Shahal. Ezra ble valgt inn i Knesset ved valget i 1996 da han var medlem av partiet Likud. Han beholdt dette setet ved valgene i 1999 og 2003. Da Ariel Sharon grunnla partiet Kadima sent i 2005, sluttet Ezra seg til dette partiet.