Faits:
A. Le 25 avril 2005, la Commune de Montreux a passé avec la société TFI Buchillon SA un contrat de vente à terme portant sur les parcelles 8089, 8090 et 8101, soit la propriété "Les Bosquets" au lieu-dit Fontanivent, pour le prix de 7,6 millions de francs. D'une surface de plus de 23'000 m2, le domaine, fortement arborisé, comprend notamment deux bâtiments d'habitation; il est situé en zone de faible densité protégée. L'acheteur s'engageait à maintenir la villa "Les Bosquets", à respecter un plan d'implantation et à protéger les arbres majeurs répertoriés. Le 5 octobre 2005, sur préavis de la Municipalité, le Conseil communal de Montreux a autorisé la vente; le produit de cette opération était destiné à l'amortissement de la couverture financière d'un hôtel de ville. Cette décision n'a pas fait l'objet d'un référendum. Le financement de l'hôtel de ville a été refusé en votation populaire, le 21 mai 2006.
B. Un projet de construction a été mis à l'enquête au mois d'avril 2006. Le permis délivré par la Municipalité a fait l'objet d'un recours. Le 15 mai 2006, TFI Buchillon a fait usage de son droit, réservé par le contrat, d'obtenir l'exécution de la vente indépendamment de l'obtention d'un permis définitif, moyennant paiement de l'intégralité du prix de vente.
C. Le 17 mai 2006, une initiative populaire communale intitulée "Sauver les Bosquets de Fontanivent" a été déposée. Elle demande que soit soumise aux électeurs de la Commune de Montreux la question suivante: "acceptez-vous que le domaine des "Bosquets de Fontanivent" avec ses arbres et ses bâtiments existants reste la propriété de la commune de Montreux et soit ouvert à la population?". La Municipalité a autorisé la récolte de signatures le 19 mai suivant, tout en relevant que l'initiative devrait être déclarée sans objet en raison de l'acte de vente du 25 avril 2005, devenu exécutoire. Le 1er septembre 2006, la Municipalité a constaté l'aboutissement de l'initiative, munie de 2762 signatures valables.
Dans son préavis du 23 novembre 2006 au Conseil communal, la Municipalité s'est référée à un avis de droit déposé le 12 novembre précédent par le Professeur Grisel. En tant qu'elle remettait en cause la vente du domaine, sur laquelle le Conseil communal ne pouvait plus revenir, l'initiative n'avait pas d'objet valable, heurtait le principe de la bonne foi et n'était pas susceptible d'exécution. La Municipalité ajoutait que le prix de vente avait été versé le 8 novembre 2006, et que l'inscription du transfert de propriété avait été requise auprès du Registre foncier.
Par décision du 31 janvier 2007, suivant l'avis de la commission chargée d'examiner l'initiative, le Conseil communal de Montreux a constaté que celle-ci remplissait les conditions formelles de validité (ch. 1), mais qu'elle n'avait pas d'objet (ch. 2), qu'elle ne se conformait pas au droit supérieur, notamment au principe de la bonne foi (ch. 3), et n'était pas susceptible d'exécution (ch. 4). Elle était donc invalide (ch. 5), et son dépôt, faute d'effet suspensif, n'avait pas empêché l'exécution du contrat de vente (ch. 6).
D. Par arrêt du 6 juillet 2007, la Cour constitutionnelle du canton de Vaud a admis le recours formé par Franz Weber et huit consorts (soit les promoteurs de l'initiative) ainsi que par le comité d'initiative. En tant qu'elle portait sur le maintien du domaine en main de la commune, l'initiative était inexécutable car la propriété avait été transférée le 8 novembre 2006 sans que l'initiative n'ait à cet égard d'effet suspensif. Le sort du crédit de construction pour l'hôtel de ville était sans incidence sur la validité de la vente. Limitée à l'ouverture au public et à la protection du site, l'initiative conservait toutefois un sens correspondant à la volonté des initiants; il n'y avait pas d'abus de droit. L'objectif de l'initiative, ainsi limité, entrait dans les compétences de la commune, compte tenu de l'autonomie dont celle-ci disposait en matière de planification, en particulier dans le domaine de la protection des sites et des bâtiments; il n'y avait pas d'obstacle insurmontable à la réalisation de l'initiative, et il appartenait aux électeurs de se prononcer sur ses implications financières. L'initiative devait donc être soumise au peuple dans la formulation suivante "Acceptez-vous que le domaine des "Bosquets de Fontanivent" avec ses arbres et ses bâtiments existants soit ouvert à la population?".
E. La Commune de Montreux, ainsi que Wolfgang Martz, Denis Golaz, Salvatore Giannone et Lorenzo Demartini, tous quatre électeurs dans cette commune, forment un recours en matière de droit public; ils concluent à l'annulation de l'arrêt de la Cour constitutionnelle et au renvoi de la cause à cette cour afin qu'elle prononce l'invalidité totale de l'initiative.
La Cour constitutionnelle se réfère à son arrêt. Franz Weber et consorts concluent à l'irrecevabilité du recours formé par la Commune de Montreux, subsidiairement à son rejet, et au rejet du recours formé par les électeurs Montreusiens dans la mesure où il est recevable.
La demande d'effet suspensif formée par les recourants a été admise par ordonnance du 3 octobre 2007.
Considérant en droit:
1. Selon l'art. 82 let. c LTF, le Tribunal fédéral connaît des recours qui concernent le droit de vote des citoyens ainsi que les élections et votations populaires. Cette disposition reprend la règle de l'art. 85 let. a OJ et permet de recourir contre l'ensemble des actes affectant les droits politiques (message LTF, FF 2001 4118), y compris au niveau communal (ATF 129 I 392 consid. 2.1 p. 394). Le recours en matière de droits politiques permet en particulier au citoyen de se plaindre de ce qu'une initiative a été indûment soustraite au scrutin populaire, parce qu'elle a été déclarée totalement ou partiellement invalide par l'autorité cantonale chargée de cet examen.
1.1 Selon la jurisprudence, le recours pour violation des droits politiques est également ouvert pour contester, comme en l'espèce, la décision de présenter totalement ou partiellement une initiative au vote populaire, pour autant que le droit cantonal charge l'autorité compétente de vérifier d'office la conformité des initiatives aux règles supérieures. Dans ce cas, le citoyen dispose d'une prétention à ce que ce contrôle obligatoire soit effectué correctement et à ce que le corps électoral soit dispensé de se prononcer, le cas échéant, sur des dispositions qui paraissent d'emblée contraires au droit matériel supérieur (ATF 128 I 190 consid. 1.3 p. 194).
Selon l'art. 106m de la loi vaudoise sur l'exercice des droits politiques (LEDP), le Conseil général ou communal statue sur la validité des initiatives (al. 1). Il constate la nullité de celles qui sont contraires au droit supérieur (al. 2 let. a) ou violent l'unité de rang, de forme ou de matière (al. 2 let. b). A teneur de cette disposition, le Conseil communal est tenu de contrôler d'office la conformité des initiatives populaires au droit supérieur. Le recours peut par conséquent porter tant sur le respect des règles relatives au droit d'initiative proprement dit (en particulier l'admissibilité d'une validation partielle) que, le cas échéant, sur le respect du droit supérieur, notamment le droit fédéral et le droit constitutionnel.
1.2 La qualité pour recourir dans le domaine des droits politiques appartient à toute personne disposant du droit de vote dans l'affaire en cause (art. 89 al. 3 LTF), même si elle n'a aucun intérêt juridique personnel à l'annulation de l'acte attaqué (ATF 130 I 290 consid. 1 p. 292; 128 I 190 consid. 1 p. 192; 121 I 138 consid. 1 p. 139; 357 consid. 2a p. 360; BELLANGER, Le recours en matière de droit public, in: Les recours au Tribunal fédéral, Genève 2007, pp. 133 ss, 152 ). La qualité pour agir des électeurs de la Commune de Montreux est donc indiscutable.
1.3 La Commune de Montreux relève qu'elle a pris part à la procédure devant l'autorité précédente (art. 89 al. 1 let. a LTF) et qu'elle aurait un intérêt digne de protection en sa qualité de venderesse du domaine de Fontanivent, exposée aux prétentions de l'acheteur qui ne pourrait utiliser le bien-fonds conformément à ce qui a été prévu.
1.3.1 En matière de droits politiques, la qualité pour agir n'est reconnue aux collectivités, de droit privé ou de droit public, que dans des cas particuliers: les personnes morales n'ont en principe pas la qualité pour recourir, faute d'être titulaires des droits politiques (cf. arrêts 1P.451/2006 du 28 février 2007, consid. 1.4 publié in PJA 2007 p. 902; 1P.89/1988 du 18 décembre 1988 publié in ZBl 1989 p. 491, consid. 1; KÄLIN, Das Verfahren der staatsrechtlichen Beschwerde, 2e éd., Berne 1994, p. 280; AUBERT, Traité de droit constitutionnel suisse, vol. II, Neuchâtel 1967, p. 600; GRISEL, Initiative et référendum populaires, Traité de la démocratie semi-directe en droit suisse, Berne 2004 p. 154-155). La qualité pour recourir est néanmoins reconnue aux partis politiques et aux organisations à caractère politique formées en vue d'une action précise - telle que le lancement d'un référendum ou d'une initiative - pour autant qu'ils soient constitués en personne morale, qu'ils exercent leur activité dans la collectivité publique concernée par la votation en cause et qu'ils recrutent principalement leurs membres en fonction de leur qualité d'électeurs (arrêt 1P.451/2006 précité; ATF 130 I 290 consid. 1.3 p 292; 121 I 334 consid. 1a p. 337; 115 Ia 148 consid. 1b p. 153; 114 Ia 267 consid. 2b p. 270; 111 Ia 115 consid. 1a p. 116 s. et les arrêts cités).
Les collectivités de droit public ne sont pas non plus titulaires des droits politiques et n'ont pas qualité pour recourir dans ce domaine (ATF 117 Ia 233 consid. 4a p. 244; 76 I 50; KÄLIN, op. cit. p. 281; KIENER, Die Beschwerde in öffentlich-rechtlichen Angelegenheiten, in: Neue Bundesrechtspflege, Berne 2007 p. 219 ss, 269-270; GRISEL, op. cit. p. 155, qui réserve les cas où le droit cantonal reconnaît aux communes une large autonomie dans les votations, ou leur accorde le droit d'initiative ou de référendum).
1.3.2 Contrairement à ce que soutiennent les recourants, l'adoption de la LTF n'a rien changé à la pratique développée sous l'empire de l'OJ. Selon le message relatif à la LTF, l'art. 89 al. 3 LTF (soit l'art. 83 al. 2 du projet) ne fait que reprendre la pratique antérieure en reconnaissant la qualité pour recourir aux électeurs de la collectivité concernée (FF 2001 4127). Le message ajoute certes que cette règle serait complémentaire à l'al. 1 de la même disposition (ce qui expliquerait les expressions "ausserdem" et "inoltre" dans les versions allemande et italienne), et n'empêcherait donc pas une personne dépourvue du droit de vote de recourir si elle a un intérêt digne de protection à l'annulation de la décision. Toutefois, il ressort clairement de la suite du message que cette précision vise exclusivement l'exemple du candidat à une élection "lorsque la capacité électorale passive ne dépend pas du droit de vote". Sur ce point également, la LTF ne déroge pas à la pratique antérieure puisque le recours prévu à l'art. 85 let. a OJ était également ouvert pour protéger la capacité civique passive, soit le droit d'éligibilité (ATF 128 I 34 consid. 1e p. 38; 119 Ia 167 consid. 1d p. 169).
1.3.3 Il en résulte que la qualité pour recourir en matière de droits politiques est définie de manière spécifique et exhaustive à l'art. 89 al. 3 LTF. Comme auparavant, elle dépend exclusivement de la titularité des droits politiques (GEROLD STEINMANN, Basler Kommentar zum BGG, Bâle 2008 n° 71-72 ad art. 89). Etendre cette qualité à toute personne disposant d'un intérêt juridique, au sens de l'art. 89 al. 1 LTF (cf. SEILER/VON WERDT/GÜNGERICH, Bundesgerichtsgesetz, Berne 2007 p. 372; SPÜHLER/DOLGE/VOCK, Kurzkommentar zum Bundesgerichtsgesetz, Zurich 2006 p. 168), reviendrait à dénaturer la voie de droit particulière prévue à l'art. 82 let. c LTF, dont l'objet est strictement limité à la sauvegarde des droits politiques (cf. GEROLD STEINMANN, op. cit. n° 75 ad art. 82; KIENER, op. cit. pp 269-270, qui rappelle la volonté du législateur de maintenir sur ce point la pratique antérieure; BESSON, Die Beschwerde in Stimmrechtssachen, in: Ehrenzeller/Schweizer (éd), Die Reorgarnisation der Bundesrechtspflege - Neuerungen und Auswirkungen in der Praxis, St.-Gall 2006 pp 403ss, 413-414; ). Faute d'être titulaire des droits politiques, la Commune de Montreux n'a pas qualité pour agir.
1.3.4 Pour le surplus, la Commune renonce expressément à se prévaloir de son autonomie, en relevant que les communes vaudoises sont autonomes en matière d'aménagement du territoire et de gestion du patrimoine communal, mais non en matière d'exercice des droits politiques. Le recours ne contient d'ailleurs pas de motivation en rapport avec l'autonomie communale (art. 106 al. 2 LTF).
Le recours est par conséquent irrecevable en tant qu'il est formé par la Commune de Montreux.
2. Les recourants estiment que la Cour constitutionnelle ne pouvait scinder l'initiative en deux parties, pour ne laisser subsister que celle qui concerne l'accès du public au domaine. L'objectif principal poursuivi par les initiants était le maintien de la propriété communale sur le domaine de Fontanivent; l'accès au public n'en était qu'une conséquence accessoire, et la protection du site n'est même pas évoquée dans l'initiative. L'aliénation par la Commune rendait donc l'initiative invalide dans son ensemble.
2.1 Les recourants ne contestent pas qu'une initiative populaire puisse être partiellement invalidée. Même si la loi ne la prévoit pas expressément, cette possibilité découle du principe selon lequel une initiative doit être interprétée dans le sens le plus favorable aux initiants, selon l'adage "in dubio pro populo" (arrêt 1P.451/2006 du 28 février 2007 consid. 2.2). Elle apparaît également comme une concrétisation, en matière de droits populaires, du principe général de la proportionnalité (rappelé à l'art. 36 al. 3 Cst. en ce qui concerne les atteintes aux droits fondamentaux) qui veut que l'intervention étatique porte l'atteinte la plus restreinte possible aux droits des citoyens, et que les décisions d'invalidation soient autant que possible limitées, en retenant la solution la plus favorable aux initiants (ATF 132 I 282 consid. 3.1 p. 286 et les arrêts cités; 129 I 381 consid. 4a p. 388). Ainsi, lorsque seule une partie de l'initiative apparaît inadmissible, la partie restante peut subsister comme telle, pour autant qu'elle forme un tout cohérent, qu'elle puisse encore correspondre à la volonté des initiants et qu'elle respecte en soi le droit supérieur (ATF 130 I 185 consid. 5 p. 202; 125 I 227 consid. 4a et b p. 231 et la jurisprudence citée). L'invalidité d'une partie de l'initiative ne doit entraîner celle du tout que si le texte ne peut être amputé sans être dénaturé (ATF 128 I 190 consid. 6 p. 203; 125 I 227 consid. 4 p. 231; 124 I 107 consid. 5b p. 117; 121 I 334 consid. 2a p. 338 et la jurisprudence citée).
2.2 En l'espèce, l'initiative est intitulée "Sauver les bosquets de Fontanivent". Il est demandé que le domaine "reste la propriété de la Commune de Montreux et soit ouvert à la population". Il en ressort clairement que la protection du site et son accessibilité au public étaient présentées comme les conséquences directes du maintien de la propriété de la Commune, de sorte que le projet des initiants doit être interprété comme un tout. Dès le moment où le domaine est passé en mains privées, la protection du site et son accessibilité au public supposent non plus le maintien d'un statu quo, mais l'adoption de toute une série de mesures supplémentaires. Il ne saurait certes s'agir, comme l'estiment les intimés, d'une annulation de la vente, puisque la partie de l'initiative relative au maintien de la propriété du domaine a été annulée. En revanche, comme le relève la Cour constitutionnelle, cela imposerait à la Commune d'assurer la protection du site par le biais de mesures d'aménagement du territoire, et de garantir au public l'accessibilité du domaine, y compris ses bâtiments, au moyen de mesures d'expropriation matérielle ou formelle.
Dans tous les cas, il s'agit de mesures qui n'étaient pas visées à l'origine, et dont les signataires de l'initiative ne pouvaient présumer la nécessité. L'annulation partielle qui résulte de l'arrêt cantonal n'a ainsi pas pour conséquence une simple réduction de l'objet de l'initiative (cf. ATF 130 I 185 consid. 5.2 p. 203; cf également l'arrêt 1P.454/ 2006 du 22 mai 2007 concernant l'initiative populaire genevoise "Pour un financement juste et durable de la politique sociale du logement par l'or de la Banque Nationale Suisse"), mais une modification notable de celui-ci; elle a pour effet de dénaturer la démarche d'origine. En dépit des assurances des auteurs de l'initiative, on ne saurait donc retenir que les personnes qui l'ont signée dans le simple but de maintenir une situation de fait et de droit déterminée, l'auraient fait également en sachant que cela impliquait une série de mesures portant atteinte au droit de propriété du nouvel acquéreur, avec les conséquences financières qui pourront en résulter pour la collectivité.
2.3 Pour ce motif déjà, l'arrêt cantonal doit être annulé, sans qu'il y ait lieu de s'interroger sur le respect des compétences communales et du droit supérieur. L'arrêt attaqué est annulé et la décision du Conseil communal invalidant l'initiative doit être confirmée. Conformément à l'art. 66 al. 1 LTF, les frais judiciaires sont mis à la charge solidaire des intimés, qui succombent (ATF 133 I 141 consid. 4.2 op. 143). Ceux-ci peuvent être réduits, en fonction des circonstances, de même que l'indemnité de dépens allouée aux recourants. La Commune de Montreux, dont le recours est irrecevable, n'a pas droit à des dépens (cf. également l'art. 68 al. 3 LTF); elle n'a pas à payer de frais judiciaire (art. 66 al. 4 LTF); elle versera en revanche aux intimés une indemnité de dépens réduite. La cause doit être renvoyée à la Cour constitutionnelle pour nouvelle décision sur les frais et dépens de l'instance cantonale (art. 68 al. 5 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours formé par la Commune de Montreux est irrecevable.
2. Le recours formé par Wolfgang Martz, Denis Golaz, Salvatore Giannone et Lorenzo Demartini est admis. L'arrêt attaqué est annulé et la décision du Conseil communal de Montreux du 31 janvier 2007 constatant la nullité de l'initiative populaire communale "Sauver les bosquets de Fontanivent" est confirmée.
3. Les frais judiciaires, arrêtés à 1000 fr., sont mis à la charge solidaire des intimés.
4. Une indemnité de dépens de 1000 fr., allouée aux recourants Wolfgang Martz, Denis Golaz, Salvatore Giannone et Lorenzo Demartini, est mise à la charge solidaire des intimés.
5. Une indemnité de dépens de 500 fr. est allouée aux intimés, à la charge de la Commune de Montreux.
6. La cause est renvoyée à la Cour constitutionnelle du canton de Vaud pour nouvelle décision sur les frais et dépens de l'instance cantonale.
7. Le présent arrêt est communiqué aux mandataires des parties et à la Cour constitutionnelle du canton de Vaud.
Lausanne, le 5 mars 2008
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Féraud Kurz