Schwarz speelde voor clubs als SL Benfica, Arsenal, Fiorentina en Valencia CF. Schwarz won tien prijzen op clubniveau. Schwarz verloor de finale van de UEFA Beker der Bekerwinnaars van 1995 met Arsenal tegen het Spaanse Real Zaragoza.