Schaaf fue jugador del Werder Bremen desde el 1 de julio de 1972 hasta 1979 como jugador juvenil, y desde entonces hasta 1995 como profesional.