Entre 2003 i 2005, Xaranski va ser membre del gabinet israelià durant el segon govern d'Ariel Sharon. Va renunciar el 2 maig de 2005, en protesta contra el pla del llavors partit oficialista Likud de retirar les colònies israelianes de la disputada Franja de Gaza.