Zahavi spilte for Hapoel Tel Aviv i sin ungdomstid og ble senere tatt opp på førstelaget i klubben hvor han spilte nesten 100 kamper. I UEFA Champions League 2010–2011 gjorde Zahavi seg bemerket etter han scoret to mål i 3–0-seieren mot den Portugisiske klubben SL Benfica, og ytterligere da han scoret mot Olympique lyonnais med et saksespark som av mange ble regnet som årets mål i Mesterligaen.