Faits: A. Par une décision du 11 avril 1983, le Département des travaux publics du canton de Vaud a autorisé la Municipalité de la commune d'Eclagnens (ci-après: la municipalité) "à aménager, à exploiter ou à délivrer un permis de décharge inerte au propriétaire foncier", au lieu-dit "Les Fontanettes" à Eclagnens, sur la parcelle n° 39 du registre foncier appartenant à Y._. Le 17 mai 1983, la municipalité a délivré à ce propriétaire un permis d'exploiter une "décharge type classe II" sur son fonds. Une extension de 22'000 m2 du périmètre de la décharge a été autorisée par la municipalité le 22 décembre 1986. B. L'exploitation de la décharge a été confiée à une nouvelle société anonyme, Décharge Les Fontanettes S.A., inscrite au registre du commerce le 10 mai 1983. Cette société comptait trois administrateurs: X._, président du conseil, Z._ et Y._. La société a été dissoute le 23 décembre 1992 et un tiers a été désigné comme liquidateur. Le 23 décembre 1997, la société a été radiée du registre du commerce. L'exploitation de la décharge s'était achevée en 1989 et les travaux de remise en état en 1994. C. Le Département cantonal des travaux publics, de l'aménagement et des transports a chargé le bureau Geotest S.A., à Cheseaux-sur-Lausanne, d'évaluer les risques pour l'environnement provenant de la décharge des Fontanettes. Le bureau Geotest a déposé un premier rapport le 11 mai 1994, retenant en conclusion que cette décharge présentait un danger potentiel relativement important pour la qualité des eaux de la rivière Le Talent, coulant à proximité; ce rapport préconisait, avant une prise de position définitive, une étude détaillée des conditions de ruissellement, du débit et de la qualité des eaux de percolation suintant au pied de la décharge. Le bureau Geotest a effectué d'autres investigations sur mandats du Département cantonal des travaux publics, de l'aménagement et des transports puis du Département cantonal de la sécurité et de l'environnement (Service des eaux, sols et assainissement). Il a déposé de nouveaux rapports le 15 décembre 1995, le 17 octobre 1996 et le 7 août 2000. Les conclusions de ce dernier rapport (intitulé "Eclagnens, ancienne décharge Les Fontanettes, Investigations complémentaires") sont les suivantes: "Les investigations complémentaires confirment que l'ancienne décharge "Les Fontanettes" conduit à la contamination d'une petite nappe phréatique non exploitable située en bordure du Talent. On dénote en particulier une contamination par des composés organiques halogénés, entre autres le chlorure de vinyle qui est carcinogène, qui proviennent probablement du stockage de déchets artisanaux ou industriels (peintures, solvants). Selon l'Ordonnance sur les sites contaminés, l'ancienne décharge "Les Fontanettes" est un site contaminé car il nécessite un assainissement du point de vue des eaux souterraines et des eaux de surface (pour ces dernières, dépassement des valeurs de référence uniquement pour le chlorure de vinyle). Les exigences de l'Ordonnance sur la protection des eaux pour le déversement dans le Talent des eaux de percolation issues de la décharge ne sont par ailleurs pas respectées. L'évaluation sommaire du risque pour le Talent montre qu'un faible effet écotoxique dans ce cours d'eau ne peut être exclu. L'appréciation du besoin et de l'urgence d'un éventuel assainissement du site sera effectuée par l'autorité compétente dans le contexte global de gestion des décharges du canton de Vaud. Nous recommandons dans l'immédiat une surveillance régulière du site (2 fois par an) permettant de contrôler l'évolution de la contamination des eaux souterraines et de celle du Talent. Il serait dans ce cadre judicieux de déterminer la répartition spatiale de la contamination des polluants problématiques (composés organiques volatils) par des analyses d'air interstitiel du sol et de vérifier ainsi que le réseau d'observation actuellement en place est suffisamment dense pour une surveillance adéquate du site." D. Le 26 mars 2002, le Service cantonal des eaux, sols et assainissement (ci-après: le service cantonal, ou SESA) a rendu une décision fondée sur l'art. 13 de l'ordonnance sur l'assainissement des sites pollués (ordonnance sur les sites contaminés, OSites - RS 814.680), décision dont le dispositif est le suivant: "1. Messieurs X._, Z._ et Y._ feront effectuer, à leurs frais, une investigation de détail sur le site de l'ancienne décharge "Les Fontanettes", ceci dans un but de déterminer si un assainissement du site est nécessaire du point de vue des eaux souterraines et des eaux de surface. 2. Ils feront également assurer, à leurs frais, une surveillance du site du point de vue de la protection des eaux souterraines et des eaux de surface, ceci sans délai et jusqu'à ce que les besoins de surveillance aient disparu. 3. A cet effet, ils mandateront un bureau d'ingénieurs de leur choix. Le nom de ce bureau ainsi que le mandat et le programme de l'investigation de détail et de la surveillance seront communiqués au SESA pour approbation. De plus, un rapport relatif à l'investigation de détail sera remis au SESA à l'issue de l'investigation, au plus tard le 31 mai 2003. 4. [...] 5. L'art. 14 OSites décrit les données qui doivent figurer dans l'investigation de détail, soit les éléments suivants: [...]. Au besoin, cette étude s'étendra sur un cycle hydrologique complet (12 mois). L'autorité redéfinira les besoins et l'urgence de l'assainissement (art. 15 OSites) sur la base de ces données. Dans le cas où les résultats de l'investigation de détail divergent fortement de ceux de l'investigation préalable, l'autorité réexaminera si le site doit être assaini ou non". E. X._, Z._ et Y._ ont tous trois recouru au Tribunal administratif du canton de Vaud contre cette décision. Le Tribunal administratif a joint les trois causes et, par un arrêt rendu le 14 août 2003, il a rejeté les recours (ch. I du dispositif) en prolongeant au 31 août 2004 le délai pour la remise du rapport relatif à l'investigation de détail, la décision attaquée étant pour le reste maintenue (ch. II du dispositif). Un émolument judiciaire de 1'000 fr. a été mis à la charge de X._ (ch. III let. a du dispositif) ainsi qu'à celle des deux autres recourants (ch. III let. b et c du dispositif). Les trois recourants ont enfin été condamnés solidairement à verser des dépens à la commune d'Eclagnens (ch. IV du dispositif). Dans les considérants de son arrêt, le Tribunal administratif a qualifié le cas de X._ de "plus délicat" que celui des deux autres intéressés. Il n'a "pas exploité la décharge au sens strict" parce qu'il n'a "pas participé directement à l'entreposage des déchets". Il a néanmoins rédigé une lettre de la société anonyme à la municipalité le 13 octobre 1983, en réponse à une lettre de cette autorité signalant différents problèmes liés à l'exploitation de la décharge. Dans ce courrier, X._ - qui est avocat et qui, auparavant, "avait apparemment été consulté au moment de l'élaboration des statuts" de la société puis avait apporté son aide dans l'élaboration d'une convention conclue entre la municipalité et la société - a demandé que la correspondance relative à la décharge lui soit désormais adressée (à son étude). Il a participé à une séance sur place avec l'autorité communale le 15 novembre 1983, puis a reçu un courrier de la municipalité du 5 décembre 1983 concernant cette séance. Par la suite, le dossier ne contient plus de "traces d'intervention de X._ dans l'exploitation de la décharge". Néanmoins, ce dernier, qui "entendait notamment être un interlocuteur vis-à-vis des autorités", a "participé à la gestion de la société et, partant, à l'exploitation de la décharge, quand bien même il s'agissait d'un rôle secondaire et limité dans le temps, dont l'ampleur exacte n'a pas pu être établie". Comme l'exploitation de la décharge est la cause des mesures à prendre en application de l'ordonnance sur les sites contaminés, X._ pouvait, d'après le Tribunal administratif, être tenu de participer à l'investigation de détail et aux mesures de surveillance, en application de l'art. 20 al. 2 OSites. F. Agissant par la voie du recours de droit administratif, X._ demande au Tribunal fédéral d'annuler l'arrêt du Tribunal administratif ainsi que la décision du Service cantonal. A titre subsidiaire, il conclut à la réforme de la décision attaquée en ce sens que les mesures d'investigation et de surveillance seraient imposées à l'Etat de Vaud, à la commune d'Eclagnens, à Y._ et à Z._, mais pas à lui-même. Le recourant se plaint, sur le fond, d'une violation de l'art. 20 OSites. Il reproche en outre au Tribunal administratif de n'avoir pas sanctionné une violation des garanties relatives à l'indépendance des autorités administratives; il fait en effet grief au SESA d'avoir statué alors que ce service est rattaché au Département de la sécurité et de l'environnement dirigé par le Conseiller d'Etat Jean-Claude Mermoud, ancien syndic de la commune d'Eclagnens et époux de la syndique actuelle de cette commune. Le Département de la sécurité et de l'environnement, représenté par le SESA, conclut au rejet du recours. Y._ et la municipalité concluent également au rejet du recours. Z._ a renoncé à répondre. Le Tribunal administratif se réfère à son arrêt et propose le rejet du recours. L'Office fédéral de l'environnement, des forêts et du paysage a été invité à donner son avis. Ses déterminations ont été communiquées aux parties, qui ont pu présenter leurs observations à ce sujet. G. Par ordonnance du 13 novembre 2003, le Président de la Ire Cour de droit public a admis la requête d'effet suspensif présentée par le recourant en relevant que, vu l'objet de la contestation - l'obligation imposée à X._ d'effectuer une investigation et une surveillance du site -, cette mesure provisionnelle ne modifiait pas le caractère exécutoire des décisions prises à l'encontre de Z._ et Y._.