Faits:
A. L'Abbaye de l'Arc de Lausanne (ci-après: la demanderesse) est une association au sens des art. 60 ss CC; elle a notamment pour but de maintenir et de développer l'exercice du tir à l'arc, et exploite un cercle dans l'immeuble dont elle est propriétaire (parcelle n° 5869 du cadastre de la commune de Lausanne). Le bâtiment de l'Abbaye de l'Arc est classé «monument historique»; aucune atteinte ne peut être portée à cet objet sans l'autorisation préalable du Département cantonal des infrastructures.
La société Fassbind SA (ci-après: la défenderesse) exploite l'Hôtel Alpha, à Lausanne; elle est propriétaire de plusieurs parcelles au sud de l'immeuble de l'Abbaye de l'Arc, qui les surplombe (n° 5883, 5884 et 7482 du cadastre de la commune de Lausanne).
B. B.a Le 2 mars 1993, le Conseil communal de Lausanne a adopté un plan partiel d'affectation, qui devait permettre la transformation et l'extension de l'Hôtel Alpha; la demanderesse n'y a pas fait opposition. Le projet prévoyait de conserver, tout en le transformant, le bâtiment qui borde directement la rue du Petit-Chêne et d'y adjoindre une extension d'environ 50 mètres au nord, jusqu'en limite de parcelle du côté de la rue Richemont; il nécessitait une fouille de plus de 25 mètres de profondeur sous le niveau de celle-ci, à une vingtaine de mètres de la limite de la propriété de la demanderesse. L'enquête publique a eu lieu du 4 au 25 mai 1999.
Craignant notamment pour la stabilité et l'intégrité de sa propriété, la demanderesse s'est opposée à ce projet. Les parties se sont rencontrées le 25 juin 1999 et ont abordé, entre autres points, l'aménagement des toitures et la stabilité du terrain; en revanche, il ne résulte pas des témoignages que la défenderesse ait garanti à la demanderesse que les ancrages n'empiéteraient pas sur son terrain.
Par convention du 19 juillet 1999, la demanderesse a retiré son opposition, moyennant le respect de certains engagements. Le permis de construire a été délivré le 12 août 1999.
B.b Le 29 mai 2000, au cours des travaux, la demanderesse a interpellé la défenderesse en se prévalant de la garantie que les ancrages en question ne pénétreraient en aucune manière sur sa parcelle; elle lui a demandé d'intervenir auprès de son bureau d'ingénieurs, afin que celui-ci confirme expressément qu'aucun ancrage n'a franchi les limites de sa parcelle.
Le 22 août 2000, le bureau d'ingénieurs a adressé à la demanderesse les métrés des travaux d'ancrages du chantier, ainsi qu'une situation et coupe type de ces ancrages. Le 25 septembre 2000, la demanderesse a informé la défenderesse que lesdits métrés n'indiquaient pas les longueurs des ancrages et étaient, par conséquent, incomplets. Le 4 octobre 2000, le bureau d'ingénieurs lui a répondu que les ancrages provisoires (liés à la paroi moulée pour assurer la stabilité des terrains avoisinants) seraient «détendus dès que la structure du futur bâtiment pourra prendre leur relais» et seraient donc «complètement inactifs»; il a concédé qu'un certain nombre d'ancrages affleuraient, voire traversaient la limite de la propriété de la demanderesse, à une profondeur comprise entre 20 et 40 mètres sous la partie aval du parc.
Le 10 octobre 2000, la demanderesse a relevé que certaines installations de la défenderesse empiétaient sur sa propriété et risquaient de créer des difficultés si celle-ci était exploitée en profondeur; par gain de paix, elle a proposé de lui octroyer une servitude d'empiétement.
C. Le 4 octobre 2001, la demanderesse a ouvert action sur la base de l'art. 641 CC en relation avec les art. 41 ss CO; elle a conclu à ce que la défenderesse soit condamnée à lui payer la somme de 50'000 fr., plus intérêts à 5% l'an dès le 1er août 2001.
Par jugement du 16 février 2004, le Tribunal civil de l'arrondissement de Lausanne a rejeté l'action. Cette décision a été confirmée le 25 mai 2005 par la Chambre des recours du Tribunal cantonal vaudois.
D. La demanderesse interjette un recours en réforme au Tribunal fédéral contre l'arrêt cantonal en reprenant les conclusions de sa demande.
La défenderesse n'a pas été invitée à répondre.
Le Tribunal fédéral considère en droit:
1. Le Tribunal fédéral examine d'office et avec une pleine cognition la recevabilité des recours qui lui sont soumis (ATF 131 III 667 consid. 1 p. 668 et les arrêts cités).
1.1 Déposé en temps utile contre une décision finale prise en dernière instance par le tribunal suprême du canton, le recours est recevable sous l'angle des art. 48 al. 1 et 54 al. 1 OJ. La valeur litigieuse exigée par l'art. 46 OJ étant atteinte, il l'est aussi de ce chef.
1.2 En instance de réforme, le Tribunal fédéral fonde son arrêt sur les faits tels qu'ils ont été constatés par la dernière autorité cantonale, à moins que des dispositions fédérales en matière de preuve n'aient été violées, ou que des constatations ne reposent manifestement sur une inadvertance (art. 63 al. 2 OJ) ou ne doivent être complétées parce que la juridiction cantonale n'a pas tenu compte de faits pertinents et régulièrement allégués (art. 64 OJ). Dans la mesure où la demanderesse s'écarte de l'état de fait de l'arrêt entrepris - plus précisément du jugement de première instance auquel renvoie l'autorité cantonale (cf. Poudret, Commentaire de la loi fédérale d'organisation judiciaire, vol. II, n. 4.7 ad art. 63 OJ et les arrêts cités) - sans se prévaloir de l'une de ces exceptions, son recours est irrecevable (ATF 130 III 136 consid. 1.4 p. 140); les allégations relatives aux déclarations faites par la défenderesse avant le début et au cours des travaux doivent, dès lors, être écartées.
2. Aux termes de l'art. 667 al. 1 CC, la propriété du sol emporte celle du dessus et du dessous, dans toute la hauteur et la profondeur utiles à son exercice.
2.1 Il résulte de cette disposition que, à l'instar d'une chose mobilière, un immeuble constitue un corps tridimensionnel, et non pas une simple surface (cf. notamment: Meier-Hayoz, Berner Kommentar, 5e éd., n. 8 ad art. 655 CC; Thorens, L'étendue en profondeur de la propriété foncière, in RDS 89/1970 I p. 257). En outre, l'extension verticale de la propriété foncière est définie par l'intérêt que présente l'exercice du droit de propriété (ATF 122 II 349 consid. 4a/aa p. 352; 119 Ia 390 consid. 5c/bb p. 397/398; parmi les auteurs récents: Rey, Basler Kommentar, 2e éd., n. 3 ad art. 667 CC). Encore faut-il que cet intérêt soit digne de protection (ATF 97 II 333 consid. 2 p. 338; 93 II 170 consid. 5 p. 175). Un intérêt futur suffit, pour autant que sa réalisation dans un avenir prévisible apparaisse vraisemblable d'après le cours ordinaire des choses (Thorens, op. cit., p. 271; Steinauer, Les droits réels, vol. II, 3e éd., n. 1616a et les auteurs cités); à cet égard, il faut tenir compte de la situation et de la nature de l'immeuble, de l'utilisation envisagée, ainsi que des obstacles de nature technique ou juridique (cf. à ce sujet: Rey, op. cit., n. 6 ad art. 667 CC; Scheiwiler, Das Interesse des Grundeigentümers am Untergrund, thèse Zurich 1974, p. 96 ss). Un intérêt digne de protection doit être également admis lorsque le propriétaire n'exploite pas lui-même le sous-sol, mais veut se défendre contre les activités de tiers qui pourraient se révéler préjudiciables à l'utilisation de son fonds, par exemple en provoquant un affaissement de terrain (Scheiwiler, op. cit., p. 114 ss; pour le survol par des avions: ATF 122 II 349 consid. 4a p. 352).
2.2 L'examen de l'intérêt digne de protection fait appel au pouvoir d'appréciation du juge (art. 4 CC). Le Tribunal fédéral se montre réservé à cet égard. Il n'intervient que si la juridiction cantonale s'est écartée sans raison des principes établis par la jurisprudence et la doctrine, a pris en considération des critères dénués de pertinence ou, à l'inverse, a omis de tenir compte de facteurs essentiels; il sanctionne en outre l'exercice du pouvoir d'appréciation lorsqu'il aboutit à un résultat manifestement injuste ou à une iniquité choquante (ATF 130 III 28 consid. 4.1 p. 32, 571 consid. 4.3 p. 576 et les arrêts cités).
3. La demanderesse soutient qu'il incombait à sa partie adverse de prouver l'absence d'intérêt à l'exercice du droit de propriété (cf. art. 8 CC). Après avoir rappelé que cette question divisait la doctrine (cf. notamment: Meier-Hayoz, op. cit., n. 11 ad art. 667 CC; Steinauer, ibidem; Thorens, op. cit., p. 278/279), l'autorité cantonale l'a finalement laissée indécise en considérant, sur le vu de l'instruction conduite en première instance, que «l'intérêt invoqué par la demanderesse n'existe pas». Dans ces circonstances, la répartition du fardeau de la preuve n'a plus d'objet (ATF 131 III 646 consid. 2.1 p. 649 et les arrêts cités).
4. Il ressort du jugement de première instance, auquel se réfère l'autorité cantonale, que 97 ancrages détendus pénètrent dans le volume du bien-fonds de la demanderesse à une profondeur de 20 à 43 mètres sous la terrasse de sa propriété. D'après l'expert, certains ouvrages souterrains pourraient, suivant leur profondeur et leur implantation, entrer en conflit avec lesdits ancrages; la mise en valeur ultérieure de l'immeuble de la demanderesse pourrait ainsi s'en trouver compromise, si ce n'est par une restriction à la construction, du moins par une augmentation des coûts d'excavation. Aux points de vue économique et technique, une excavation serait envisageable jusqu'à 28-29 mètres de profondeur, mais aucun projet de construction actuel, concret ou précis n'existe dans ce sens. Au demeurant, le parking voisin du Lausanne-Palace comprend un niveau inférieur situé à 14 mètres environ sous la terrasse de la demanderesse; une extension horizontale serait donc possible en dehors de la zone d'influence des ancrages litigieux. De même, la profondeur du parking du Grand-Chêne (ou de St-François) ne dépasse pas 18 mètres sous l'esplanade de Montbenon. Enfin, il faut prendre en considération la nature du bâtiment de la demanderesse (monument historique classé à l'inventaire avec la note 1), son affectation (exploitation d'un cercle ou club privé), la législation de droit public en matière de construction et d'environnement, ainsi que les lignes directrices de la politique municipale sur le stationnement (le plan d'affectation partiel limite le nombre de places de parc intérieures à 100, dont 98 ont déjà été réalisées). En définitive, force est d'admettre - avec le témoin Cosandey, chef de l'Office de la police des constructions de la commune de Lausanne - que la construction d'un parking souterrain n'est «pas raisonnable» ou semble «peu réaliste».
4.1 Sur le vu des motifs qui précèdent, il n'apparaît pas que l'autorité cantonale ait omis des facteurs essentiels, ni enfreint les limites de son pouvoir d'appréciation. En soulignant que le but de l'association demanderesse n'est pas de nature économique, mais consiste en «l'exploitation d'un cercle, le maintien et l'exercice du tir à l'arc», elle a nié (implicitement) que l'intéressée entendait exercer une maîtrise sur son sous-sol; en outre, elle a exclu que la création d'un parking souterrain puisse être envisagée dans un proche avenir, ou même à vues humaines. Enfin, les juges cantonaux se sont exprimés négativement quant à la possibilité de réaliser un tel garage compte tenu des contraintes découlant du droit public de la construction, des directives municipales en matière de stationnement et de la nature du bâtiment.
Les arguments de la demanderesse (la défenderesse a creusé elle-même une fouille à plus de 30 mètres de profondeur; l'application du droit civil [fédéral] ne saurait être restreinte par le droit administratif [de surcroît communal]; des changements de la politique communale en matière de places de parc sont possibles; la voiture devient de plus en plus propre, et la pollution toujours plus réduite) sont loin de démontrer la faisabilité, en l'état purement abstraite («potentielle»), de la construction d'un parking dans le sous-sol de sa parcelle. Le droit public apporte diverses restrictions à la propriété foncière privée (cf. sur ce point: Steinauer, op. cit., n. 1938 ss; Knapp, Restrictions de droit public à la propriété privée, in Dixième Journée juridique, Genève 1970, p. 49 ss; cf. également la présentation de Zufferey/Ayer/Schroeter, La propriété face à l'aménagement du territoire, à la police des constructions, à la protection de l'environnement et à l'expropriation, in JdT 2000 I p. 646 ss), sans qu'une inscription au registre foncier soit nécessaire (art. 680 al. 1 CC); indépendamment des changements de majorités politiques, la tendance en Europe est de désengorger le centre-ville des véhicules à moteur et d'y réintégrer progressivement les piétons (cf. notamment: Schauwecker, Verkehrsfreie Innenstädte, thèse Zurich 1976, p. XI ss). Et il n'y a pas davantage lieu de compter sur une prochaine suppression des normes relatives à la protection des monuments historiques, auxquelles est assujetti le bâtiment de la demanderesse.
4.2 A l'exception de la construction d'un parking souterrain, la demanderesse ne mentionne aucune autre utilisation de son bien-fonds qui serait empêchée, à tout le moins virtuellement, par les ancrages litigieux; d'ailleurs, vu le classement de son bâtiment comme monument historique, on ne voit guère de quelle installation ou construction il pourrait s'agir. Il ne reste donc que le simple intérêt à se voir allouer une indemnité; un tel intérêt n'est toutefois pas digne de protection aux fins de l'art. 667 al. 1 CC (Meier-Hayoz, op. cit., n. 8 ad art. 667 CC; Scheiwiler, op. cit., p. 66/67; Thorens, op. cit., p. 270). Cela étant, l'argument pris du caractère inéquitable de la décision attaquée tombe à faux.
5. En conclusion, le présent recours doit être rejeté dans la mesure de sa recevabilité, aux frais de son auteur (art. 156 al. 1 OJ). Il n'y a pas lieu, en revanche, d'allouer des dépens à la défenderesse, qui n'a pas été invitée à répondre.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Un émolument judiciaire de 4'000 fr. est mis à la charge de la demanderesse.
3. Le présent arrêt est communiqué en copie aux mandataires des parties et à la Chambre des recours du Tribunal cantonal du canton de Vaud.
Lausanne, le 5 janvier 2006
Au nom de la IIe Cour civile
du Tribunal fédéral suisse
Le président: Le greffier: