En febrero de 2005, el Ministro de Defensa Shaul Mofaz decidió no prolongar otro año más el servicio de Yalón como Jefe del Estado Mayor. Esto marcó el clímax de las tensiones entre Mofaz y Yalón, que habían surgido en parte por la protesta de Yalón al plan de retirada de Gaza. El 1 de junio de 2005 Yalón se retiró del ejército y Dan Halutzsu, sucesor como Jefe del Estado Mayor, supervisó la retirada.