Rehavam Zeevi est né dans le quartier Yemin Moshe de Jérusalem d'une famille à la fois juive traditionnelle et socialiste. Son père, Shlomo, est originaire de Pologne et appartient à une famille de la dynastie hassidique de Gour. Sa mère est née dans le quartier Nahalat Shiva de Jérusalem. Ses parents étaient tous les deux membres du Bataillon du Travail. La famille de Zeevi fait la connaissance de Pessah Bar Adon lors de la Grande Révolte arabe de 1936-1939. Il a rejoint le Palmah en 1942, et a servi dans les Forces de défense israéliennes après la création de l'État d'Israël.