V únoru 2005 se tehdejší ministr obrany Šaul Mofaz rozhodl neprodloužit Ja'alonovu službu v pozici náčelníka GŠ pro příští rok. Jednalo se o vyvrcholení sporů mezi Mofazem a Ja'alonem, které částečně ještě vzrostlo kvůli Ja'alonově kritice Šaronova plánu na stažení se z Gazy. Na postu náčelníka štábu skončil 1. června 2005 a následnému izraelskému stažení již dohlížel jeho nástupce Dan Chaluc.