Faits:
A. C._ exploite à Lutry le café-restaurant X._. Cet établissement comporte une terrasse, sur le domaine public communal, qui est ouverte d'avril à octobre. La Municipalité de la commune de Lutry (ci-après: la municipalité), par sa direction de police, a accordé à C._ une "concession à bien plaire" pour l'installation de cette terrasse, qui existe depuis de nombreuses années (déjà avant 1985).
Le café-restaurant X._ a été exploité sur la base de patentes - ou licences, selon la terminologie de la nouvelle loi cantonale sur les auberges et les débits de boisson, du 26 mars 2002 (LADB) - délivrées par le département cantonal auquel est rattachée la police cantonale du commerce.
B. Les époux A._ et B._, propriétaires d'un bâtiment d'habitation voisin du café-restaurant précité, ont écrit à plusieurs reprises, dès le mois d'août 2003, à la municipalité pour se plaindre du bruit provenant de la terrasse. Le Service cantonal de l'économie, du logement et du tourisme (SELT), subdivision du Département de l'économie chargée de la police cantonale du commerce, a d'abord organisé une séance sur place, le 15 juillet 2005. Un autre service de l'administration cantonale, le Service de l'environnement et de l'énergie (SEVEN), du Département de la sécurité et de l'environnement, était représenté à cette séance et il a établi le 11 avril 2006 un préavis à l'intention du SELT, où il était exposé que les exigences légales en matière de protection contre le bruit n'étaient pas respectées et où il était recommandé, entre autres mesures, la réduction du nombre de places sur la terrasse ainsi que sa fermeture à 23h00 la semaine et à 24h00 les vendredis et samedis.
Par une décision du 2 mai 2006, le SELT - soit pour ce service le chef de la police cantonale du commerce - a réduit l'horaire d'exploitation de la terrasse d'une heure (fermeture de dimanche à jeudi: 23h00; vendredi et samedi: 24h00) et il a imparti à C._ un délai au 22 mai 2006 pour présenter au SEVEN un plan d'assainissement de la terrasse.
Le 31 mai 2006, le SELT a délivré une nouvelle licence à C._, valable du 1er juin au 31 août 2006, en précisant que les conditions d'exploitation de la terrasse étaient en réexamen.
Le 4 juillet 2006, C._ a présenté trois propositions pour limiter les nuisances sonores provenant de la terrasse. Un représentant du SEVEN a donné une première appréciation. Un délai au 12 juillet 2006 a alors été fixé à C._ pour présenter au SELT et au SEVEN un plan définitif d'assainissement. A l'échéance de ce délai, C._ a adressé à ces deux services un plan d'assainissement prévoyant une paroi vitrée amovible et une couverture partielle de la terrasse. Le 19 juillet 2006, le SEVEN s'est prononcé, dans un préavis, en faveur de l'exploitation de la terrasse aux conditions suivantes: 60 places; fermeture à 23h00 en semaine et à 24h00 le week-end, y compris les travaux de rangement et de nettoyage (sous réserve de la confirmation par la commune de l'intérêt public prépondérant de l'exploitation de la terrasse en soirée); pas de diffusion de musique sur la terrasse; pas de service à des personnes qui n'ont pas de place sur la terrasse; aménagement d'une paroi vitrée sur le côté est de la terrasse avec retour couvert de 1.2 m. Ce préavis indiquait également que si l'exploitant désirait disposer d'un horaire plus souple, il devait proposer des mesures de protection contre le bruit plus efficaces. Il était encore précisé que l'agrandissement de la terrasse (passage de 12 places, selon des patentes précédentes, à 60 places) ainsi que la réalisation des parois ou toitures devraient respecter les règles en matière de police des constructions et qu'il serait approprié de déposer auprès la municipalité un dossier complet pour une demande de permis de construire.
Le 21 juillet 2006, le SELT a adressé à la municipalité un courrier qui se réfère au préavis du SEVEN du 19 juillet 2006 et qui expose notamment ce qui suit:
"Nous considérons également [...] que cet agrandissement de terrasse justifie le dépôt d'un dossier de mise à l'enquête publique. Nous estimons en effet que nous ne sommes pas en possession de tous les éléments pour nous déterminer. La solution proposée n'est, semble-t-il, pas suffisante et il paraît hasardeux de l'imposer en l'état actuel du dossier. [...] Par conséquent, nous suggérons à votre autorité de soumettre cet agrandissement à une mise à l'enquête publique et de requérir un dossier complet en vue d'une demande de permis de construire, afin que tous les voisins puissent bénéficier du droit d'être entendus. En attendant cette mise en conformité (agrandissement de la terrasse et travaux d'assainissement), notre décision du 2 mai 2006 reste applicable en ce qui concerne les restrictions d'horaires".
C. A._ et B._ ont recouru au Tribunal administratif du canton de Vaud contre la lettre du 21 juillet 2006 adressée par le SELT à la municipalité. Estimant que cette lettre était une décision, ils en ont demandé la modification afin que d'autres mesures soient imposées à C._ (réduction de la capacité de la terrasse à 30 places, limitations plus importantes de l'horaire d'exploitation, notamment).
Le Tribunal administratif a rejeté le recours par un arrêt rendu le 20 juillet 2007. Il a qualifié la lettre du SELT du 21 juillet 2006 de décision et il l'a confirmée. A propos de cette qualification juridique, il a considéré ce qui suit (consid. 1):
"La lettre du SELT à la Municipalité de Lutry du 21 juillet 2006 indique à cette autorité la marche à suivre pour les travaux d'assainissement, soit le dépôt d'un dossier complet pour mise à l'enquête publique. Elle ne constitue sur ce point pas une décision, mais une prise de position, au sens de la jurisprudence précitée, qui n'est pas sujette à recours. En revanche, cette lettre prolonge les restrictions d'horaires imposées le 2 mai 2006 jusqu'à la mise en conformité, soit l'exécution des travaux d'assainissement. Ainsi, les restrictions d'horaires qui selon la décision de mai 2006 devaient être passagères dès lors qu'un plan d'assainissement devait être déposé le 22 mai suivant ont été de facto prolongées jusqu'à une date indéterminée bien plus éloignée. Dans cette mesure, elle est génératrice de droits et d'obligations; il convient d'admettre qu'en ce qui concerne les horaires, cette lettre constitue une décision [...]."
Sur le fond, le Tribunal administratif a considéré que les jours et heures d'exploitation paraissaient adéquats. Il a rappelé que cette mesure était provisoire, qu'il incombait à l'exploitant, lequel n'avait pas recouru, "d'adresser au plus vite un projet à la municipalité conformément à l'art. 27 LR" (loi cantonale sur les routes, applicable pour les autorisations d'usage accru du domaine public), et qu'il appartenait aux autorités cantonale et communale "de veiller à ce que l'exploitation actuelle de la terrasse, qui est provisoire, ne perdure pas et que des mesures soient prises sans délai afin que les nuisances engendrées par la terrasse soient limitées" (consid. 5 in fine).
Selon l'arrêt du Tribunal administratif, les frais de justice (3'000 fr.) ainsi que des dépens (2'000 fr.) à payer à C._ d'une part, et à la municipalité d'autre part, ont été mis à la charge des recourants A._ et B._. L'arrêt du Tribunal administratif a été notifié aux recourants le 23 juillet 2007.
D. Agissant par la voie du recours en matière de droit public et subsidiairement par la voie du recours constitutionnel, A._ et B._ demandent au Tribunal fédéral de réformer l'arrêt du Tribunal administratif en ce sens que l'exploitation de la terrasse litigieuse est subordonnée aux conditions suivantes:
a) la capacité de cette terrasse est réduite à 30 places, toutes situées dans le secteur ouest de celle-ci, sur une aire précisément déterminée;
b) l'horaire d'exploitation (y compris les travaux de rangement et de nettoyage, lesquels sont totalement prohibés le matin) est de 11h00 à 22h00 du dimanche au jeudi et de 11h00 à 23h00 le vendredi soir et le samedi soir;
c) toute diffusion de musique sur la terrasse est interdite;
d) le service de boissons ou d'aliments aux personnes en attente de la libération d'une place à l'intérieur du restaurant ou sur la terrasse est interdit.
Les recourants demandent également au Tribunal fédéral de statuer sur le sort des frais et dépens de l'instance cantonale. A titre subsidiaire, ils concluent à l'annulation de la décision attaquée et au renvoi de l'affaire pour nouvelle décision au Tribunal administratif. Plus subsidiairement encore, ils concluent à la réforme partielle de l'arrêt en ce sens que les frais judiciaires sont fixés à 1'000 fr., les dépens dus à C._ à 1'000 fr., la conclusion en dépens de la municipalité étant rejetée.
Le mémoire de recours a été remis à la poste, à l'adresse du Tribunal fédéral, le 14 septembre 2007.
C._ conclut à l'irrecevabilité, subsidiairement au rejet du recours. La municipalité conclut à son rejet.
Le SELT (qui a transmis les observations du SEVEN) s'en remet à justice. Le Tribunal administratif a renoncé à se déterminer. L'Office fédéral de l'environnement (OFEV) a été invité à communiquer son avis sur le recours.
Considérant en droit:
1. La décision attaquée peut faire l'objet d'un recours en matière de droit public (art. 82 ss LTF). La voie du recours constitutionnel, subsidiaire à celle du recours en matière de droit public, n'est donc pas ouverte (art. 113 LTF) .
2. En vertu de l'art. 100 al. 1 LTF, applicable en l'espèce, le recours au Tribunal fédéral doit être déposé dans les 30 jours qui suivent la notification de l'expédition complète. L'art. 46 al. 1 LTF prévoit la suspension de ce délai pendant trois périodes de féries judiciaires, en particulier du 15 juillet au 15 août (let. b). Toutefois, aux termes de l'art. 46 al. 2 LTF, cette règle ne s'applique pas dans les procédures concernant l'octroi de l'effet suspensif et d'autres mesures provisionnelles, la poursuite pour effets de change et l'entraide pénale internationale. Il incombe au Tribunal fédéral d'examiner d'office si les recourants ont observé le délai de l'art. 100 al. 1 LTF. Il en irait ainsi dans l'hypothèse d'une suspension en vertu de l'art. 46 al. 1 let. b LTF, le délai ne courant pas avant le lendemain du dernier jour des féries (cf. art. 44 al. 1 LTF). En revanche, en cas d'application de l'art. 46 al. 2 LTF, le recours devrait être déclaré tardif parce que déposé plus de 30 jours (en réalité 53 jours) après la notification de la décision attaquée.
2.1 Il s'agit en l'espèce d'examiner si la décision du SELT du 21 juillet 2006, confirmée par le Tribunal administratif qui en a souligné le caractère provisoire, doit être qualifiée de "mesure provisionnelle" au sens de l'art. 46 al. 2 LTF.
La nouvelle loi sur le Tribunal fédéral (LTF) emploie la notion de "mesures provisionnelles" ("vorsorgliche Massnahmen") non seulement à propos de l'exception à la règle de la suspension des délais durant les féries (art. 46 al. 2 LTF) mais également à l'art. 98 LTF ("Motifs de recours limités"). Le Message du Conseil fédéral (Message concernant la révision totale de l'organisation judiciaire fédérale, FF 2001 p. 4000 ss) définit ainsi cette notion: les mesures provisionnelles sont des "décisions à caractère temporaire qui règlent une situation juridique en attente d'une réglementation définitive au travers d'une décision principale ultérieure". Le Message distingue différentes catégories (mesures conservatoires, mesures de réglementation, mesures d'exécution anticipée, mesures procédurales telles que l'octroi de l'effet suspensif à un recours) et précise que "les mesures provisionnelles sont tantôt des décisions finales au sens de l'art. 85 LTF [actuel art. 90 LTF] lorsqu'elles sont prises dans une procédure autonome, tantôt des décisions incidentes lorsqu'elles sont prononcées au cours d'une procédure conduisant à une décision finale ultérieure" (FF 2001 p. 4133 s.).
Comme l'auteur du Message, le Tribunal fédéral considère que des mesures provisionnelles peuvent être ordonnées aussi bien dans une procédure autonome qu'à titre incident dans la procédure principale (ATF 133 III 589 consid. 1 p. 590). En droit administratif, il est admis que des mesures provisionnelles, qui doivent régler une situation de manière provisoire, soient ordonnées dans une procédure accessoire, indépendante de celle qui aboutira à la décision principale (cf. notamment Isabelle Häner, Vorsorgliche Massnahmen im Verwaltungsverfahren und Verwaltungsprozess, RDS 116/1997 II p. 280 ss).
2.2 Dans le cas particulier, les autorités cantonales ont mentionné l'obligation d'assainir l'installation litigieuse - la terrasse du café-restaurant -, à cause d'immissions de bruit excessives. La loi fédérale sur la protection de l'environnement (LPE; RS 814.01) règle à son art. 16 l'assainissement des anciennes installations. L'art. 16 al. 4 LPE permet aux autorités, en cas d'urgence, d'ordonner l'assainissement "à titre préventif" (dans le texte allemand: "vorsorglich").
Comme le relève l'Office fédéral de l'environnement dans ses observations, il n'est pas certain que l'art. 16 LPE s'applique en l'espèce car le dossier ne permet pas, à première vue, de déterminer si l'installation litigieuse existait déjà, dans ses dimensions et mode d'exploitation actuels, avant l'entrée en vigueur de la loi fédérale sur la protection de l'environnement le 1er janvier 1985 (cf. notamment ATF 126 II 480 consid. 3a p. 483). Quoi qu'il en soit, même si l'installation, considérée comme nouvelle, n'est pas soumise à l'obligation d'assainir sur la base de l'art. 16 LPE, l'autorité compétente peut exiger a posteriori qu'elle respecte les exigences légales en matière de limitation des émissions (art. 11 ss LPE); il ne s'agit alors pas d'un assainissement stricto sensu mais plutôt d'une mise en conformité. Dans les deux hypothèses, il est concevable que des mesures provisionnelles soient prises avant la décision finale imposant le cas échéant au détenteur de l'installation la mise en oeuvre ou la réalisation des mesures destinées à garantir le respect des exigences des art. 11 ss LPE. Lorsque l'art. 16 LPE est applicable, l'alinéa 4 de cette disposition fournit une base légale claire aux mesures provisionnelles (cf. notamment ATF 120 Ib 89 consid. 4b p. 94; André Schrade/Heidi Wiestner, Kommentar zum Umweltschutzgesetz, Zurich 2001, n. 95 ss ad art. 16; Häner, op. cit., p. 311, 338).
2.3 Dans la présente affaire, il résulte clairement de l'arrêt attaqué que la limitation de l'horaire d'exploitation imposée le 2 mai 2006 et prolongée par la décision du 21 juillet 2006 est une mesure provisoire avant une décision définitive. Il n'y a pas lieu d'examiner dans le détail, à ce stade, la réglementation du droit public cantonal pour l'assainissement ou la mise en conformité d'une installation produisant des immissions de bruit excessives. Il est possible que différentes autorités aient à se prononcer en vue de régler définitivement cette question: l'autorité cantonale chargée de la police du commerce (le département auquel est rattaché le SELT), l'autorité cantonale chargée spécialement de la protection de l'environnement (le département auquel est rattaché le SEVEN) ainsi que l'autorité communale responsable de l'utilisation du domaine public. Quoi qu'il en soit, il importe peu de savoir comment il sera mis un terme à cette procédure. Il suffit en effet de constater que, pour les autorités cantonales, la mesure litigieuse est destinée à régler provisoirement la situation dans l'attente d'une décision finale sur le projet d'agrandissement de la terrasse avec travaux d'assainissement (selon ce qui est indiqué dans la décision du SELT du 21 juillet 2006). Il s'agit donc clairement d'une mesure provisionnelle. En conséquence, pour être recevable, le recours au Tribunal fédéral aurait dû être déposé dans les 30 jours dès la notification de l'arrêt attaqué, le délai de recours n'étant pas suspendu durant les féries en vertu de l'art. 46 al. 2 LTF.
2.4 Dès lors qu'il n'est pas douteux que la restriction d'horaire litigieuse est une mesure provisionnelle, et par conséquent que l'art. 46 al. 2 LTF est applicable en pareil cas, les règles de la bonne foi n'imposent pas d'entrer en matière nonobstant le caractère tardif du recours. La situation juridique est en effet suffisamment claire (contrairement à la situation examinée dans l'arrêt publié aux ATF 133 I 270 consid. 1.2 p. 273-275, où le Tribunal fédéral a jugé l'art. 46 al. 2 LTF applicable en cas de recours contre la mise en détention préventive, tout en laissant indécise la question de savoir s'il s'agissait d'une mesure provisionnelle). Il s'ensuit que le recours, déposé après l'échéance du délai de l'art. 100 al. 1 LTF, est irrecevable.
3. Les recourants, qui succombent, doivent supporter les frais judiciaires (art. 65 al. 1 et 66 al. 1 LTF). Ils auront en outre à prendre en charge les dépens alloués à l'intimé C._ (art. 68 al. 1 et 2 LTF). Ni la commune de Lutry, ni l'administration cantonale n'ont en revanche droit à des dépens (art. 68 al. 3 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours en matière de droit public est irrecevable.
2. Le recours constitutionnel est irrecevable.
3. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge des recourants.
4. Une indemnité de 2'000 fr., à payer à l'intimé C._ à titre de dépens, est mise à la charge des recourants.
5. Le présent arrêt est communiqué aux mandataires des recourants, de l'intimé et de la Municipalité, au Département de l'économie, Service de l'économie, du logement et du tourisme, ainsi qu'au Tribunal administratif du canton de Vaud, et à l'Office fédéral de l'environnement.
Lausanne, le 20 février 2008
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Juge présidant: Le Greffier:
Aemisegger Jomini