Faits:
A. A._ est propriétaire et exploitant du Théâtre de l'Alcazar, situé à Territet et accueillant diverses manifestations. A la fin de l'année 1999, trois projecteurs dirigés vers le ciel ont été installés sur la toiture du bâtiment. Cette installation a donné lieu à l'intervention de deux voisins qui se plaignaient de la gêne occasionnée par les faisceaux lumineux. Le 30 octobre 2000, la Direction des travaux et de l'urbanisme de la commune de Montreux a autorisé le fonctionnement des projecteurs les vendredis et samedis jusqu'à 02h00, respectivement 04h00 en cas d'occupation de la salle.
B. Le 16 novembre 2009, un habitant de la commune de Glion s'est adressé à la Direction du développement urbain et du territoire (ci-après: la direction), en se plaignant des faisceaux lumineux qui balayaient le ciel jusqu'à l'aube. Il demandait l'arrêt, ou une stricte limitation de cet éclairage. A._ a pour sa part demandé une extension de l'horaire autorisé. Le 15 décembre 2009, la direction a fait savoir qu'elle n'entendait pas prolonger l'autorisation, considérant qu'il en résultait une pollution visuelle et qu'il s'agissait d'un procédé non conforme à la loi cantonale sur les procédés de réclame (LPR). L'intéressé répondit qu'il ne s'agissait pas d'un procédé de réclame, que l'autorisation du 30 octobre 2000 n'était pas à bien plaire et qu'il s'opposait à sa suppression.
Le 11 mars 2010, la Municipalité de Montreux a décidé de retirer l'autorisation délivrée en octobre 2000. L'installation n'avait pas fait l'objet d'une enquête publique. L'art. 4 LPR prohibait les procédés de nature à nuire au bon aspect d'un site ou d'un quartier, et l'éclairage litigieux pouvait être source de nuisances pour le voisinage et l'environnement.
C. Par arrêt du 30 juillet 2010, la Cour de droit administratif et public du Tribunal cantonal vaudois (CDAP) a confirmé cette décision. L'éclairage, destiné à attirer l'attention du public, constituait un procédé de réclame. Or, la procédure d'autorisation prévue par la LPR n'avait pas été suivie: aucune demande formelle n'avait été adressée à la municipalité; le département en charge des monuments et des sites n'avait pas été consulté, alors que l'Alcazar figurait à l'inventaire des monuments historiques; les horaires fixés n'avaient pas été strictement respectés. Le propriétaire avait installé les projecteurs sans avoir préalablement requis une autorisation, et celle-ci n'avait pas été délivrée au terme d'un examen approfondi. Compte tenu de ces irrégularités, les conditions d'une révocation étaient remplies. Le propriétaire pouvait toujours requérir une autorisation fondée sur la LPR, en fournissant un dossier complet. Compte tenu de la nature de l'installation, il devrait également se soumettre à la procédure d'autorisation de construire avec une mise à l'enquête.
D. Par acte du 9 septembre 2010, A._ forme un recours en matière de droit public. Il conclut à la nullité de la décision municipale du 11 mars 2010, subsidiairement à son annulation.
La CDAP conclut au rejet du recours en se référant à son arrêt et en se déterminant sur le grief de violation du droit d'être entendu. La Municipalité s'en rapporte à justice.
Considérant en droit:
1. Dirigé contre un arrêt final (art. 90 LTF), rendu dans une cause de droit public (art. 82 let. a LTF) par une juridiction de dernière instance cantonale (art. 86 al. 1 let. d LTF), le recours a été déposé, par le destinataire de l'arrêt attaqué qui a un intérêt digne de protection à l'annulation ou à la modification de celui-ci (art. 89 al. 1 LTF), dans le délai prévu par la loi (art. 100 al. 1 LTF).
2. Le recourant invoque en premier lieu son droit d'être entendu. Il reproche à la CDAP de ne pas lui avoir donné l'occasion de se déterminer sur les observations faites par la Municipalité, ce qui lui aurait permis de corriger certains faits erronés: l'autorisation délivrée en 2000 ne serait pas le fruit d'une négociation avec un voisin; il n'avait jamais été question de procédé de réclame et le but des projecteurs était uniquement de positionner le bâtiment pour les personnes venant du Valais; les projecteurs ne sont pas des lasers mais des projecteurs à ampoules de 1200 W.; l'immeuble n'a été classé qu'après l'année 2000, alors que les projecteurs étaient déjà installés.
2.1 Compris comme l'un des aspects de la notion générale de procès équitable au sens de l'art. 29 al. 1 Cst., le droit d'être entendu garantit notamment le droit pour une partie à un procès de prendre connaissance de toute argumentation soumise au tribunal et de se déterminer à son propos, que celle-ci contienne ou non de nouveaux éléments de fait ou de droit, et qu'elle soit ou non concrètement susceptible d'influer sur le jugement à rendre. Ce droit à la réplique vaut pour toutes les procédures judiciaires (ATF 133 I 98 consid. 2.1). L'autorité peut se limiter dans un premier temps à communiquer la prise de position à titre d'information, sans avis formel de la possibilité de répliquer. La partie est ainsi mise en situation de faire ou non usage de cette possibilité. Mais il lui incombe alors soit de le faire sans retard soit de demander un délai à cette fin. Si elle s'en abstient, elle est censée y avoir renoncé (ATF 133 I 105 consid. 4.8).
2.2 Les déterminations de la Municipalité du 18 juin 2010 ont été transmises le 21 juin suivant au recourant, pour information. Le recourant avait alors la possibilité de faire valoir son droit d'être entendu en présentant directement ses observations, s'il l'estimait nécessaire, sans requérir préalablement un délai pour ce faire. Le tribunal l'a par la suite informé, le 28 juin 2010, qu'il se déterminerait ultérieurement sur la demande de réplique, "le cas échéant avec l'arrêt au fond", ce qui laissait entendre que le recourant n'aurait alors plus la possibilité de s'exprimer. A réception de cette lettre, le recourant pouvait encore réagir en présentant ses observations complémentaires. Son droit d'être entendu a dès lors été respecté.
3. Le recourant se plaint ensuite d'arbitraire dans l'établissement des faits. Il ressortirait du dossier qu'il a demandé une extension de l'autorisation et non une nouvelle autorisation; l'autorisation initiale n'avait pas été délivrée à bien plaire; les projecteurs ne seraient pas des lasers; enfin, il serait aussi arbitraire de les considérer comme un procédé de réclame puisqu'il s'agirait uniquement de permettre de trouver aisément le bâtiment.
3.1 Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si les faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF). Dans le cadre d'un recours dirigé contre une mesure provisionnelle, le recourant ne peut critiquer la constatation des faits, susceptibles d'avoir une influence déterminante sur l'issue de la procédure, que si ceux-ci ont été établis en violation de droits fondamentaux, ce qu'il lui appartient de démontrer par une argumentation répondant aux exigences de motivation de l'art. 106 al. 2 LTF. Le pouvoir d'examen du Tribunal fédéral est limité, pratiquement, à l'arbitraire (cf. ATF 133 III 393 consid. 7.1 p. 398).
3.2 L'arrêt attaqué ne retient pas que le recourant aurait demandé une nouvelle autorisation. Il s'interroge au contraire sur les conditions de révocation de l'autorisation délivrée en 2000, sans retenir non plus que celle-ci aurait été accordée à bien plaire: la partie en fait de l'arrêt attaqué rappelle correctement la teneur de la décision du 30 octobre 2000. Le recourant n'indique par ailleurs pas en quoi la nature de l'éclairage litigieux (ampoules ou laser) serait pertinente à ce stade: le raisonnement de la cour cantonale ne se fonde en rien sur le type d'éclairage, mais sur l'existence d'une autorisation qui n'a pas été délivrée par l'autorité compétente, qui n'a fait l'objet ni d'une enquête publique ni d'un examen approfondi, ni encore d'une consultation du département compétent. L'inexactitude relevée par le recourant est donc sans incidence sur le fond. Le recourant conteste enfin que l'installation puisse être assimilée à un procédé de réclame. L'arrêt cantonal retient, en fait, les explications du recourant selon lesquelles les projecteurs sont destinés à assurer le "positionnement" de l'Alcazar, qui ne se voit pas depuis Villeneuve. La question de savoir s'il faut y voir un procédé de réclame au sens de la LPR ne relève pas du fait, mais du droit. Le grief doit par conséquent être écarté.
4. Le recourant se plaint d'arbitraire dans l'application de l'art. 2 LPR. Selon lui, l'éclairage litigieux ne pourrait être assimilé à de la réclame au sens de l'art. 2 LPR.
4.1 Il y a arbitraire, prohibé par l'art. 9 Cst., lorsque la décision attaquée viole gravement une règle ou un principe juridique clair et indiscuté ou lorsqu'elle contredit d'une manière choquante le sentiment de la justice ou de l'équité. Le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si elle est insoutenable ou en contradiction évidente avec la situation de fait, si elle a été adoptée sans motif objectif ou en violation d'un droit certain. Par ailleurs, il ne suffit pas que les motifs de la décision attaquée soient insoutenables, encore faut-il que celle-ci soit arbitraire dans son résultat (ATF 131 I 57 consid. 2 p. 61 et la jurisprudence citée), ce qu'il appartient au recourant de démontrer en vertu de l'art. 106 al. 2 LTF (ATF 134 I 263 consid. 3.1 p. 265; 133 I 149 consid. 3.1 p. 153 et la jurisprudence citée).
4.2 Selon l'art. 2 LPR, sont considérés comme procédés de réclame au sens de la présente loi tous les moyens graphiques, plastiques, éclairés, lumineux ou sonores destinés à attirer l'attention du public, à l'extérieur, dans un but direct ou indirect de publicité, de promotion d'une idée ou d'une activité ou de propagande politique ou religieuse.
Il n'y a manifestement rien d'arbitraire à considérer que l'éclairage litigieux tombe sous le coup de cette définition puisqu'il s'agit bien d'un moyen lumineux destiné à attirer l'attention du public. Quand bien même cette signalisation s'adresserait en priorité aux personnes déjà désireuses de se rendre à l'Alcazar, on peut néanmoins y voir un moyen de publicité, au même titre qu'une enseigne lumineuse. Compte tenu de son but de protection des sites, du repos public et de la sécurité routière (art. 1 LPR), la loi s'applique de manière large à "tous les procédés de réclame de quelque nature qu'ils soient, perceptibles à l'extérieur par le public" (art. 3 LPR). Le procédé litigieux ne fait pas partie des exceptions prévues par cette disposition. Le recourant ne prétend pas, en particulier, qu'il pourrait être assimilé à du matériel de balisage ou de marquage temporaire (art. 3 al. 2 let. f; cf. aussi art. 2 al. 1 let. a du règlement d'application de la LPR), dès lors qu'il est en place à demeure et fonctionne toute l'année. Le recourant insiste sur la fonction de "positionnement" de l'éclairage litigieux, mais ne soutient pas non plus qu'il pourrait être assimilé à une signalisation directionnelle en faveur d'un établissement public (art. 3 al. 4 LPR), laquelle est soumise à la loi fédérale sur la circulation routière.
Le grief doit par conséquent être écarté.
5. Dans trois griefs distincts - mais qu'il y a lieu de traiter ensemble -, le recourant se plaint d'arbitraire dans l'application des conditions permettant la révocation d'une décision: en l'absence d'éléments nouveaux, en fait ou en droit, une révocation n'était pas possible. La révocation violerait par ailleurs le principe de la sécurité du droit et de la garantie des droits acquis, la cour cantonale n'ayant pas tenu compte des investissements opérés pour l'installation, soit 15'000 fr. plus les frais d'entretien. La révocation violerait enfin le principe de la proportionnalité, sur le vu des montants investis et de l'intérêt public en jeu, dûment pris en compte lors de l'octroi de l'autorisation.
5.1 En vertu du principe de légalité (art. 5 al. 1 Cst.), un acte administratif qui se révèle contraire au droit doit en principe être révoqué. La révocation a lieu après une mise en balance, d'une part de l'intérêt au respect du droit et, d'autre part, de l'intérêt à la sécurité juridique, en particulier lorsque l'autorisation a été délivrée à l'issue d'un examen approfondi des intérêts en présence, ou lorsque le bénéficiaire de l'autorisation a fait usage de l'autorisation notamment en procédant à des investissements importants (ATF 127 II 306 consid. 7a p. 313/314; 121 II 273 consid. 1a/aa p. 276).
5.2 En l'espèce, la cour cantonale a estimé, sans arbitraire, que l'éclairage litigieux était soumis à la LPR, raison pour laquelle une autorisation fondée sur cette loi était nécessaire. Cela impliquait un préavis du département compétent, le bâtiment figurant à l'inventaire, ainsi qu'une décision formelle de la municipalité. En l'occurrence, l'autorisation du 30 octobre 2000 a été délivrée sans aucun examen des conditions de fond posées par la LPR visant à la protection des sites, du repos public et de la sécurité routière. Par ailleurs, cette autorisation a été délivrée par une autorité incompétente au sens de la LPR, soit la direction communale des travaux, de sorte qu'elle était viciée tant matériellement que formellement. La cour cantonale a aussi considéré que l'installation contestée nécessitait un permis de construire au sens du droit cantonal sur l'aménagement du territoire et les constructions, avec une mise à l'enquête publique. Le recourant ne conteste pas cette appréciation, de sorte que la décision apparaît également viciée sur ce point.
5.3 Compte tenu de la gravité des vices évoqués ci-dessus, les intérêts privés du recourant ne permettaient pas de renoncer à une révocation. L'installation litigieuse représente certes un investissement important, mais elle a pu être utilisée durant dix ans, ce qui a permis de l'amortir dans une large mesure. Par ailleurs, le recourant avait pris lui-même un risque considérable en procédant à l'installation sans en informer l'autorité. Enfin, l'arrêt attaqué n'exclut pas a priori que l'éclairage litigieux puisse se poursuivre, mais il exige simplement le respect de la procédure d'autorisation. La décision de révocation n'apparaît donc pas disproportionnée.
6. Le recours doit par conséquent être rejeté, aux frais du recourant (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 3000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué au mandataire du recourant, à la Municipalité de Montreux et au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public.
Lausanne, le 20 décembre 2010
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Féraud Kurz