Zubizarreta begynte å spille for hjemmeklubben i Aretxabaleta (1977–79), før han gikk til Deportivo Alavés (1979–80). Han spilte deretter for Athletic Bilbao (1980–86), der han vant to La Liga-mesterskap på rad i 1983 og -84. Etter at han gikk til FC Barcelona (1986–94) vant han fire La Liga-mesterskap pluss europacupen i 1992. Hans siste klubb var Valencia CF (1994–98). Han har flere kamper i den spanske serien enn noen annen spiller (622).