Faits:
A. A.a Le Tennis-Club A._ (ci-après: le Tennis-Club) est une association créée le 27 avril 1981, dont le siège est à B._; il est bénéficiaire d'un droit de superficie immatriculé sous n° 716 sur la parcelle n° 230 du registre foncier de C._ située sur la commune de B._. Deux courts de tennis, avec les installations afférentes (i.e. treillis, éclairage, petit bâtiment à l'usage du club, mur d'entraînement et un parking), ont été construits sur cette parcelle.
X._ est propriétaire de la parcelle n° 745 du registre foncier de C._ située sur la commune de B._ depuis le 17 octobre 1990; la villa dans laquelle vivent les époux X._ se trouve sur cette parcelle. Depuis le 11 octobre 1993, le prénommé est aussi propriétaire de la parcelle n° 230, qui jouxte la parcelle n° 745. Celle-ci est située au nord de la parcelle n° 230; à l'est de ces deux parcelles, se trouvent du nord au sud les parcelles n°s 746, 748 et 750. Sur le long de la limite est de la parcelle n° 230, qui jouxte la parcelle n° 748 et une partie des parcelles n°s 746 et 750, se trouve un talus présentant de nombreux reliefs. Un chêne était planté sur une pente un peu plus au sud, le long de la parcelle n° 750, dont les époux Y._ sont copropriétaires.
A.b Le 20 novembre 2002, le Tennis-Club a introduit action devant le Tribunal civil de l'arrondissement de La Côte en prenant les conclusions suivantes:
«Interdiction est faite à X._, sous commination des sanctions pénales de l'art. 292 CP, de troubler par tous moyens, notamment par le jet de pierres et de mottes de terre, la possession du Tennis Club A._ de son droit de superficie immatriculé sous N° 716 au Registre foncier de B._ sur la parcelle N° 230 du Registre foncier de B._ (I).
Interdiction est faite à X._, sous commination des sanctions pénales de l'art. 292 CP, d'usurper par tous moyens l'exercice par le Tennis Club A._ de son droit de superficie immatriculé n° 716 au Registre foncier de B._ sur la parcelle n° 230 du Registre foncier de B._ (II).
Principalement
Ordre est donnée à X._ d'enlever les grillages apposés sur le droit de superficie immatriculé sous n° 716 du Registre foncier de B._ du Tennis Club A._ dans les cinq jours dès jugement définitif et exécutoire.
Subsidiairement
Permission est donnée au Tennis Club A._ de procéder à l'enlèvement des grillages posés par X._, aux frais de ce dernier (III).
X._ est débiteur et doit immédiat paiement à Tennis Club A._ de la somme de Fr. 10'000.-- (...) avec intérêts à 5% dès le 20 novembre 2002 (IV)».
Dans sa réponse du 10 février 2003, le défendeur a conclu au rejet de la demande et pris les conclusions reconventionnelles suivantes:
«Ordre est donné à l'association Tennis-Club A._ de faire planter, d'ici au 31 décembre 2004, une haie d'arbres le long de la limite est de la parcelle n° 230, en remplacement de la haie d'arbres qui a été abattue; la nouvelle haie d'arbres devra être composée du même nombre d'arbres et des mêmes essences que la haie d'arbres qui existait auparavant (I).
Ordre est donné à l'association Tennis-Club A._ de faire planter un chêne dans la partie sud de la parcelle n° 230 faisant l'objet d'un droit de superficie, en remplacement du chêne qui a été abattu il y a quelques années; le nouveau chêne devra se situer à proximité immédiate de la souche du chêne abattu d'ici au 31 décembre 2004 (II).
Interdiction est faite à l'association Tennis-Club A._, sous commination des sanctions pénales prévues à l'art 292 CP, d'utiliser le petit bâtiment (club-house) situé sur la parcelle n° 230 autrement que pour le rafraîchissement et la toilette des joueurs de tennis (III)».
Dans ses déterminations du 17 mars 2003, le Tennis-Club a conclu au rejet des conclusions reconventionnelles.
A.a Par demande du 23 décembre 2002, X._ a pris les conclusions suivantes:
«Interdiction est faite à la défenderesse, l'association Tennis-Club A._, d'autoriser ses membres ou des tiers à jouer au tennis ou exercer une activité bruyante sur la parcelle n° 230 du Cadastre de la Commune de B._ en dehors des jours ouvrables de 9h00 à 19h00 (I).
Interdiction est faite à l'association Tennis-Club A._ d'éclairer les courts de tennis se trouvant sur la parcelle n° 230 du cadastre de la Commune de B._ au-delà de 20h00 (II).
Ordre est donné à l'association Tennis-Club A._ de faire poser des oeillères sur les projecteurs ou de prendre toutes autres mesures pour que seuls les courts de tennis, et non la parcelle n° 745, soient éclairés durant les heures autorisées (III).
Interdiction est faite à l'association Tennis-Club A._ d'ouvrir le club-house situé sur la parcelle n° 230 du cadastre de la Commune de B._ en dehors des jours ouvrables de 9h00 à 20h00 (IV).
Les interdictions et injonctions mentionnées aux chiffres I à IV ci-dessus sont assorties de la menace de la peine prévue à l'art. 292 du Code pénal suisse, qui punit des arrêts ou de l'amende celui qui ne se sera pas conformé à une décision de l'autorité (V).
L'association Tennis-Club A._ est la débitrice de X._ de la somme de Fr. 38'000 (trente-huit mille francs) (VI)».
Dans sa réponse du 10 mars 2003, le Tennis-Club a conclu au rejet des conclusions de cette demande et pris la conclusion reconventionnelle suivante:
«Interdiction est faite à X._, sous commination des sanctions pénales de l'art. 292 CP, de troubler par tous moyens, l'activité tennistique du Tennis Club de A._ sur les courts de tennis aménagés sur la parcelle n° 230».
Dans ses déterminations du 10 avril 2003, X._ a conclu au rejet de cette conclusion.
A.a Statuant le 7 juillet 2004, le Tribunal d'arrondissement a rendu le jugement suivant:
«Joint les causes Tennis Club A._ contre X._ et X._ contre Tennis Club A._ (I).
Interdit à X._, sous commination des peines d'arrêt ou d'amende prévues par l'art. 292 CP pour celui qui ne se soumet pas à une décision de l'autorité, de troubler, par quelque moyen que ce soit, la possession du Tennis Club de A._ de son droit de superficie immatriculé sous no 716 au registre foncier de B._ sur la parcelle no 230 du registre foncier de B._ (II).
Interdit à X._, sous commination des peines d'arrêt ou d'amende prévues par l'art. 292 CP pour celui qui ne se soumet pas à une décision de l'autorité, d'usurper, par quelque moyen que ce soit, l'exercice par le Tennis Club de A._ de son droit de superficie immatriculé sous no 716 au registre foncier de B._ sur la parcelle no 230 du registre foncier de B._ (III).
Ordonne à X._ d'enlever, dans un délai de quinze jours dès le présent jugement définitif et exécutoire, les grillages apposés sur le droit de superficie immatriculé sous no 716 au registre foncier de B._ (IV).
Ordonne à l'association du Tennis Club de A._ de faire poser, dans un délai de trente jours dès le présent jugement définitif et exécutoire, des oeillères sur les projecteurs pour que seuls les courts de tennis, et non la parcelle no 745, soient éclairés durant les heures autorisées (V)».
A.a Par arrêt du 5 octobre 2005, la Chambre des recours du Tribunal cantonal du canton de Vaud a partiellement admis le recours de X._ et réformé le jugement attaqué comme suit (II):
«II et III: supprimés.
Interdit à X._, sous commination des peines d'arrêts ou d'amende prévues par l'article 292 CP pour celui qui ne se soumet pas à une décision de l'autorité, de troubler, par la présence de ses chiens aux abords immédiats des courts de tennis, la possession du Tennis Club de A._ de son droit de superficie immatriculé sous n° 716 au registre foncier de B._ (II nouveau).
Interdit à l'association du Tennis Club de A._, sous commination des peines d'arrêts ou d'amende prévues par l'article 292 CP (...), d'utiliser les courts de tennis sis sur la parcelle qui fait l'objet du droit de superficie immatriculé sous n° 716 au registre foncier de B._ avant 9 heures du matin et au-delà de 21 heures en soirée, 20 heures le dimanche et les jours fériés (Vbis nouveau).
Les chiffres I, IV et V du dispositif du jugement attaqué sont confirmés (III).
Le jugement attaqué est annulé d'office pour le surplus, la cause étant renvoyée au Tribunal d'arrondissement de La Côte pour nouvelle instruction et nouveau jugement, au sens des considérants (IV)».
La Chambre des recours a notamment considéré que l'état de fait était insuffisamment établi pour permettre l'application du droit, qu'il convenait donc d'annuler partiellement le jugement attaqué et de renvoyer d'office la cause aux premiers juges pour qu'ils examinent la question du dommage et se prononcent sur les conclusions de X._ tendant à la réparation du dommage qu'il invoque (conclusion VI de la demande du 23 décembre 2002 et conclusions reconventionnelles I et II du mémoire réponse du 10 février 2003).
A. Statuant à nouveau le 21 septembre 2007, le Tribunal d'arrondissement a rejeté les conclusions reconventionnelles I et II, ainsi que la conclusion VI, prises respectivement par X._ dans sa réponse du 10 février 2003 et sa demande du 23 décembre 2002.
Par arrêt du 3 septembre 2008, la Chambre des recours du Tribunal cantonal vaudois a confirmé cette décision.
B. X._ interjette un recours en matière civile et un recours constitutionnel subsidiaire au Tribunal fédéral, concluant comme suit à la réforme du «chiffre Vbis de l'arrêt rendu par la Chambre des recours du Tribunal cantonal vaudois le 29 décembre 2005»:
«Interdit à l'association du Tennis-Club de A._, sous commination des peines d'amende prévues par l'art. 292 CP (...), d'utiliser les courts de tennis sis sur la parcelle qui fait l'objet du droit de superficie immatriculé sous n° 716 au Registre foncier de B._ avant 9h00 du matin et au-delà de 19h00 en soirée ainsi que le dimanche et les jours fériés».
Des observations n'ont pas été requises.
Considérant en droit:
1. Les juridictions vaudoises ont été saisies de deux actions distinctes: d'une part, l'action de l'intimée, dans le cadre de laquelle le recourant a pris des conclusions reconventionnelles tendant à la plantation d'une haie d'arbres et d'un chêne (ch. I et II); d'autre part, l'action du recourant tendant à la limitation d'immissions excessives liées à l'utilisation des courts de tennis et du club-house (ch. I-IV), sous la menace des peines prévues par l'art. 292 CP (ch. V), et au paiement d'une somme de 38'000 fr. à titre de dommages-intérêts (ch. VI).
Il ressort de l'arrêt du 5 octobre 2005 que le recourant s'est fondé sur l'art. 684 CC pour demander une limitation de l'usage des courts de tennis et du club-house (p. 8 ss). La Chambre des recours lui a donné raison sur ce point et interdit à l'association, sous la commination des peines prévues par l'art. 292 CP, «d'utiliser les courts de tennis sis sur la parcelle qui fait l'objet du droit de superficie immatriculé sous n° 716 au registre foncier de B._ avant 9h00 du matin et au-delà de 21h00 en soirée, 20h00 le dimanche et les jours fériés». Elle a, en revanche, annulé le jugement de première instance en tant qu'il portait sur les conclusions fondées sur l'art. 679 CC - à savoir la plantation d'une haie d'arbres et d'un chêne et le paiement de 38'000 fr. à titre de dommages-intérêts - et renvoyé la cause au tribunal d'arrondissement afin qu'il examine, après une instruction complémentaire, le dommage invoqué par le recourant (p. 11 ss).
Dans leur nouvelle décision, du 11 septembre 2007, les premiers juges ont débouté le recourant parce qu'il n'avait pas prouvé son dommage et que ses prétentions étaient, en outre, prescrites (p. 13/14). Statuant le 3 septembre 2008, la Chambre des recours s'est ralliée au motif tiré de la prescription et, partant, a confirmé le rejet desdites conclusions (p. 13 ss). Cet arrêt n'est pas critiqué en instance fédérale.
Par conséquent, le litige est circonscrit à la question de l'étendue des heures d'exploitation du tennis-club, telles qu'elles ont été arrêtées par la Chambre des recours dans sa décision du 5 octobre 2005.
2. S'agissant de la recevabilité, le recourant expose que la «décision partielle» rendue le 29 décembre (recte: 5 octobre) 2005 par la Chambre des recours n'était pas susceptible d'un recours en réforme immédiat au regard de l'art. 48 al. 1 OJ; elle ne peut être attaquée qu'à l'appui d'un recours contre la «décision finale» prise le 9 octobre 2008 (recte: 3 septembre 2008). Si la nouvelle procédure fédérale (LTF) est bien applicable en l'espèce, l'admissibilité des «griefs formulés à l'encontre du jugement partiel (...) doit être analysée sous l'angle de l'OJF exclusivement», dès lors que, à l'époque où cette décision a été prononcée, il n'était pas possible de la contester par la voie d'un recours en réforme séparé. Sous l'empire du droit actuel (LTF), cette «décision partielle» devrait faire l'objet du recours (obligatoire) prévu par l'art. 91 LTF, de telle sorte que, sous le régime actuel, elle «ne serait plus contestable avec la décision finale rendue par la suite».
2.1 En vertu de l'art. 132 al. 1 LTF, la nouvelle procédure fédérale ne s'applique aux procédures de recours que si l'acte attaqué a été rendu après son entrée en vigueur. Sur la base de cette norme, le Tribunal fédéral a appliqué le nouveau droit à un recours dirigé principalement contre des décisions de taxation rendues avant le 1er janvier 2007 et subsidiairement contre une décision de taxation prise après cette date; en particulier, il a considéré que, appliquer l'ancien droit aux décisions antérieures au 1er janvier 2007, conduirait à étendre, sans nécessité, la période transitoire pendant laquelle la loi d'organisation judiciaire du 16 décembre 1943 (OJ) reste applicable concurremment à la loi sur le Tribunal fédéral du 17 juin 2005 (LTF), ce qu'il convient d'éviter (ATF 133 I 308 consid. 3.2 p. 313/314; arrêt 2C_502/2007 du 20 septembre 2007 consid. 2.3; cf. également: ATF 133 III 687 consid. 1.3 p. 690, au sujet de l'art. 100 al. 6 LTF).
2.2 Pour déterminer la procédure applicable, il y a lieu de qualifier l'arrêt du 5 octobre 2005, en se plaçant à la date à laquelle il a été rendu, car si cette décision était susceptible d'un recours en réforme immédiat, le présent recours serait alors largement tardif.
L'arrêt en discussion ne constitue pas une décision finale au sens de l'art. 48 al. 1 OJ (sur cette notion: ATF 132 III 178 consid. 1.1 p. 180 et la jurisprudence citée). La question de savoir s'il s'agit d'une décision préjudicielle ou incidente au sens de l'art. 50 al. 1 OJ, ou d'une décision partielle (sur ces notions: ATF 132 III 785 consid. 2 p. 789/790 et la jurisprudence citée), n'a pas à être tranchée ici. En effet, sous l'empire de l'OJ, le Tribunal fédéral a jugé que, conformément au principe valable pour les autres décisions préjudicielles ou incidentes (ATF 78 II 265 consid. 1 p. 272; 89 II 185 consid. 1 p. 188; 123 III 140 consid. 2c p. 143; 131 III 87 consid. 3.3 p. 90), le régime particulier permettant de recourir immédiatement contre une décision partielle n'avait, sous réserve des questions de compétence (art. 48 al. 3 OJ), qu'un caractère facultatif (ATF 127 III 351 consid. 1a p. 353). En revanche, dans le système de la LTF, la décision partielle - qui est une catégorie de décision finale (ATF 135 III 212 consid. 1.2.1 p. 217) - doit être immédiatement attaquée (ATF 135 V 141 consid. 1.4.1 p. 145 et les citations; Uhlmann, in: Basler Kommentar, BGG, n° 1 ad art. 91 LTF).
En l'espèce - en s'inspirant de la jurisprudence mentionnée plus haut (consid. 2.1) -, même si la décision dont le recourant sollicite la modification a été prise avant l'entrée en vigueur de la LTF, c'est bien l'arrêt «complémentaire» du 3 septembre 2008 qui constitue la décision attaquable (art. 93 al. 3 LTF), le recours pouvant d'ailleurs se limiter aux seules conclusions tranchées dans le premier «arrêt partiel» (Poudret, Commentaire de la loi fédérale d'organisation judiciaire, t. II, n° 1.1.7.4 ad art. 48 OJ). Le nouveau droit est donc applicable.
2.3 Les conflits en matière de droit de voisinage (art. 684 CC) sont de nature pécuniaire (parmi plusieurs: arrêt 5A_791/2008 du 10 juin 2009 consid. 1 et les références), en sorte que - sous réserve d'exceptions qui ne sont pas réalisées en l'occurrence (art. 74 al. 2 LTF) - le présent recours n'est ouvert que si la valeur litigieuse s'élève à 30'000 fr. au moins (art. 74 al. 1 let. b LTF).
Le recourant soutient que cette condition est remplie. Les conclusions demeurées litigieuses devant l'autorité précédente lors du «jugement partiel», puis du «jugement final», comprenaient en particulier la réparation du dommage consécutif à l'abattage des arbres sur la parcelle n° 230, à savoir 38'000 fr., somme à laquelle il faut ajouter la valeur de la cessation des immissions excessives liées à l'exploitation des courts de tennis.
2.3.1 Aux termes de l'art. 52 LTF - qui reprend en substance l'art. 47 al. 1 OJ (FF 2001 p. 4099 ch. 4.1.2.6 in fine) -, les divers chefs de conclusions formés dans une affaire pécuniaire par la même partie sont additionnés, à moins qu'ils ne s'excluent. D'après la jurisprudence, il y a lieu d'additionner les conclusions lorsque, notamment, elles ont été jointes dans la procédure cantonale et qu'elles ont fait l'objet d'un seul jugement (arrêt 4A_346/2007 du 16 novembre 2007 consid. 3; Rudin, in: Basler Kommentar, BGG, n° 14 ad art. 52 LTF; pour l'OJ: ATF 103 II 41 consid. 1c p. 44). Cette seconde condition n'est pas réalisée en l'occurrence; si les deux causes ont bien été jointes en première instance (cf. supra, let. A.d), les prétentions du recourant qui demeurent litigieuses - à savoir celles qui sont fondées sur l'art. 684 CC - ont été liquidées en dernière instance cantonale par une décision séparée. En dépit de ce que pense le recourant, la recevabilité du présent recours doit ainsi être vérifiée en rapport avec cette décision séparée (ATF 94 II 51 consid. 1 p. 53, dont le principe demeure valable sous l'empire de la LTF: Frésard, in: Commentaire de la LTF, n° 11 ad art. 52 LTF).
2.3.2 Si les conclusions du recours ne tendent pas au paiement d'une somme d'argent déterminée, le Tribunal fédéral fixe la valeur litigieuse selon son appréciation (art. 51 al. 2 LTF); en particulier, il n'est pas lié par l'estimation du recourant, ni par celle de la juridiction précédente (arrêt 5A_32/2008 du 29 janvier 2009 consid. 1.2 et les citations [non destiné à la publication]; Rudin, op. cit., n° 47 ad art. 51 LTF).
Le recourant soutient que les nuisances dénoncées occasionnent une «moins-value d'au moins Fr. 30'000.- et rendent la vente de la parcelle beaucoup plus difficile dans la mesure où la présence d'un court de tennis situé à cinq mètres seulement de la villa et sur lequel on joue tous les jours, y compris le dimanche, est de nature à décourager bien des acheteurs potentiels». Il n'y a pas besoin d'examiner plus avant le bien-fondé de cette affirmation; en effet, il faut convenir que l'intérêt de l'intimée à pouvoir exploiter les courts de tennis sans les restrictions réclamées par sa partie adverse (arrêt 5A_23/2008 du 3 octobre 2008 consid. 1.1 et les citations) atteint le seuil légal.
3. Aux termes de l'art. 42 al. 2 LTF, les motifs du recours doivent exposer succinctement en quoi l'acte attaqué viole le droit. La jurisprudence a rappelé à maintes reprises que cette disposition - à l'instar de l'art. 55 al. 1 let. c OJ (cf. ATF 116 II 745 consid. 3 p. 748/749) - «exige que le recourant discute au moins de manière succincte les considérants de la décision attaquée» (ATF 134 II 244 consid. 2.1 p. 245/246; cf. parmi plusieurs: arrêts 5A_92/2007 du 8 juin 2007 consid. 4.1; 5A_129/2007 du 28 juin 2007 consid. 1.4; 4A_22/2008 du 10 avril 2008 consid. 1 in fine; Merz, in: Basler Kommentar, n° 53 ad art. 42 LTF, avec d'autres références). A cet égard, le Message du Conseil fédéral souligne que la nouvelle loi «pose des exigences assez élevées dans la motivation des mémoires de recours» (FF 2001 p. 4031, ch. 2.2.4).
Cette exigence n'est pas satisfaite en l'espèce. L'autorité précédente a expliqué pourquoi il n'y avait pas lieu de limiter l'utilisation des courts de tennis dans le sens préconisé par le recourant (p. 9 s.). Or, l'acte de recours ne comporte pas la moindre réfutation de ces motifs, le recourant se bornant ici à présenter sa propre argumentation. En outre, les juridictions cantonales jouissent d'un large pouvoir d'appréciation pour déterminer si les immissions doivent être qualifiées d'«excessives» et pour prendre les mesures adéquates (ATF 101 II 248 consid. 3 in fine p. 250 et les références); le recourant ne démontre pas que les juges cantonaux auraient tenu compte de facteurs dépourvus de pertinence ou, au contraire, omis des éléments essentiels (par exemple: ATF 88 II 10 consid. 2 p. 14 ss, s'agissant d'une patinoire artificielle exploitée pendant «quatre ou cinq mois de suite»).
4. En conclusion, le recours constitutionnel subsidiaire et le recours en matière civile doivent être déclarés irrecevables, aux frais du recourant (art. 66 al. 1 LTF). Il n'y a pas lieu d'allouer de dépens à l'intimée, qui n'a pas été invitée à répondre.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours constitutionnel subsidiaire est irrecevable.
2. Le recours en matière civile est irrecevable.
3. Les frais judiciaires, arrêtés à 4'000 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties et à la Chambre des recours du Tribunal cantonal du canton de Vaud.
Lausanne, le 2 novembre 2009
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Le Greffier:
Hohl Braconi