Dalla stagione 1995-1996 Zola trovò sempre meno spazio in squadra a causa dell'arrivo di Hristo Stoichkov che occupava la sua stessa posizione in campo, causando un dualismo tattico tra i due. Nel 1996 arrivò sulla panchina del Parma il tecnico Carlo Ancelotti che giocava con il modulo 4-4-2. Ancelotti posizionò Zola sulla fascia sinistra di centrocampo, lasciando l'attacco a Crespo e Chiesa. Stufo del ruolo sceltogli da Ancelotti, Zola decise di concludere la sua esperienza al Parma, con il quale aveva disputato 102 gare di campionato e realizzato 49 gol.