Van der Gouw startet sin karriere i den nederlandske klubben Go Ahead Eagles i 1985, Han spilte der i tre år før han gikk til Vitesse Arnhem i 1988. Sommeren 1996 ble Van der Gouw hentet til Manchester United av Sir Alex Ferguson. 21. september samme året debuterte han for førstelaget. Men han ble ikke noen førstekeeper ettersom danske Peter Schmeichel var suveren i den posisjonen. Van der Gouw var ikke bare keeper i Manchester United, han var dessuten keepertrener fram til 1998, da Tony Coton overtok den jobben.