Faits:
A. C._ est propriétaire de la parcelle 8'089 du cadastre de la commune de Montreux. Elle a acquis cette parcelle, ainsi que la parcelle 8'090, de la commune. Le transfert de propriété est intervenu le 8 novembre 2006. Ce bien-fonds, d'une surface de 18'850 m2, est limité à l'est par la route de Fontanivent, au sud par des parcelles privées, au nord et à l'ouest par la partie inférieure de la boucle que forme à cet endroit la ligne de chemin de fer de Montreux Oberland Bernois (MOB). Sa partie supérieure, au niveau de la route de Fontanivent, forme un vaste parc arborisé entourant la villa "Les Bosquets" (n° ECA 2'151). Dans l'angle sud-est de la propriété se trouve également un bâtiment d'habitation construit en 1936, comportant un appartement de 5 pièces et deux appartements de 4 pièces (n° ECA 2'149, sis au n° 57 de la route de Fontanivent). Deux bâtiments agricoles et un garage (nos ECA 2'152, 2'153 et 2'154) sont également sis sur la parcelle. La partie inférieure du bien-fonds, à l'ouest, s'étend en pente modérée à forte jusqu'à la voie de chemin de fer du MOB; elle est principalement en nature de pré-champ (dans sa partie nord) avec quelques arbres d'espèces locales.
La parcelle 8'089 est colloquée en zone de faible densité, régie par les art. 33 ss du règlement de la commune de Montreux du 15 décembre 1972 sur le plan d'affectation et la police des constructions (ci-après: le RPA). Un nouveau plan général d'affectation, approuvé par la municipalité de Montreux le 10 juin 2005 et mis à l'enquête publique du 20 avril au 21 mai 2007 (ci-après: le PGA 2007) range ce secteur en zone de coteau B, régie par l'art. 9.1 du nouveau règlement (RPGA 2007).
En avril 2006, un projet de construction de trois bâtiments résidentiels dans la partie supérieure de la parcelle, ainsi que la démolition des bâtiments nos ECA 2'149, 2'152, 2'153 et 2'154 a été mis à l'enquête publique, simultanément avec un projet de construction sur la parcelle 8'090. Ce projet a fait l'objet de plusieurs oppositions, que la municipalité a levées par décisions du 29 août 2006.
Les opposants ont formé recours contre ces décisions auprès du Tribunal administratif du canton de Vaud (auquel a succédé, depuis le 1er janvier 2008, la Cour de droit administratif et public du Tribunal cantonal; ci-après: le Tribunal cantonal) qui, par arrêt du 13 mars 2008, a partiellement admis le recours et annulé la décision litigieuse ainsi que la décision du Service cantonal de l'économie, du logement et du tourisme du 17 juillet 2006 autorisant la démolition du bâtiment n° ECA 2'149. Quant au projet de construction sur la parcelle n° 8'090, le recours à son encontre a été jugé irrecevable. Ce projet serait actuellement en voie d'achèvement.
B. Le 10 juin 2008, C._ a déposé une nouvelle demande de permis de construire deux immeubles résidentiels, deux garages souterrains et places de parc extérieures sur la parcelle 8'089. La demande prévoit également la pose de sondes géothermiques et la démolition des bâtiments ECA nos 2'152, 2'153 et 2'154. Elle inclut une requête de dispense d'abri PC et l'abattage de plusieurs arbres. Elle a été mise à l'enquête publique du 5 septembre au 6 octobre 2008.
Le projet a fait l'objet de plusieurs oppositions, dont celles d'Helvetia Nostra et des époux A._ et B._.
La centrale des oppositions CAMAC a délivré le 10 octobre 2008 sa synthèse n° 90223 octroyant les autorisations spéciales requises tout en les assortissant de conditions.
Par décision du 9 juin 2009, la municipalité de Montreux a refusé le permis de construire sollicité, au motif que la vente du domaine des Bosquets était au coeur d'une affaire pénale actuellement en cours d'instruction. Le Tribunal cantonal a annulé cette décision, le 26 novembre 2009, et renvoyé le dossier à la municipalité pour statuer sur le projet de construction, admettant le recours de C._. Il a considéré que la société requérante était bien propriétaire de la parcelle concernée et qu'elle était dès lors fondée à solliciter une autorisation de construire.
Par décision du 10 mars 2010, la municipalité a levé les oppositions et informé les opposants de la délivrance du permis de construire en date du 3 mars 2010.
C. Helvetia Nostra et les époux A._ et B._ ont recouru contre le permis de construire auprès du Tribunal cantonal, qui a procédé à une vision locale en présence des parties le 24 janvier 2011. Par arrêt du 29 juin 2011, le Tribunal cantonal a très partiellement admis le recours, dans la mesure où il était recevable. Il a réformé la décision de la municipalité du 10 mars 2010 en ce sens que, s'agissant des places de stationnement, le permis de construire était délivré pour la construction de deux garages souterrains et de places de parc extérieures totalisant 35 places. La décision était confirmée pour le surplus. Le Tribunal cantonal a considéré en substance que le projet litigieux n'était pas contraire au RPGA 2007, de sorte qu'un refus anticipé négatif ne se justifiait pas. Par ailleurs, la parcelle 8'089 ne constituait pas un biotope au sens de la législation cantonale et fédérale, qu'il conviendrait de préserver.
D. Agissant par la voie du recours en matière de droit public, Helvetia Nostra ainsi que A._ et B._ demandent au Tribunal fédéral d'annuler les arrêts du Tribunal cantonal des 13 mars 2008 et 29 juin 2011 ainsi que la décision de la municipalité de Montreux du 10 mars 2010. Ils se plaignent pour l'essentiel d'une violation des art. 29 al. 2 et 30 Cst. ainsi que des art. 6 par. 1 et 13 CEDH. Ils reprochent également à la cour cantonale d'avoir mal appliqué le droit fédéral relatif à la protection de la nature et du paysage et à l'aménagement du territoire.
Le Tribunal cantonal conclut au rejet du recours, au bénéfice des considérants de son arrêt. C._ et la municipalité de Montreux concluent également au rejet du recours. Le service cantonal des forêts, de la faune et de la nature ainsi que le service cantonal du développement territorial ont renoncé à déposer des observations. Invité à se déterminer, l'Office fédéral de l'environnement (ci-après: l'OFEV) ne relève aucune violation du droit fédéral de la protection de la nature et du paysage. Quant à l'Office fédéral du développement territorial (ci-après: l'ARE), il est d'avis que le bien-fonds litigieux ne fait pas partie du territoire largement bâti au sens de la législation fédérale en matière d'aménagement du territoire.
Les recourants et l'intimée ont répliqué, respectivement dupliqué, confirmant leurs conclusions. Le service cantonal du développement territorial a répondu aux observations de l'ARE. La municipalité de Montreux a fait parvenir ses observations finales le 6 mars 2012.
E. Par ordonnance du 26 septembre 2011, le Président de la Ire Cour de droit public a admis la requête d'effet suspensif contenue dans le recours.

Considérant en droit:
1. Dirigé contre une décision rendue dans le domaine du droit public de l'aménagement du territoire et des constructions, le recours est en principe recevable comme recours en matière de droit public conformément aux <ref-law>, auxquels renvoie l'art. 34 al. 1 de la loi fédérale du 22 juin 1979 sur l'aménagement du territoire (LAT, RS 700; <ref-ruling> consid. 2 p. 356, 249 consid. 1.2 p. 251). Aucune des exceptions prévues à l'<ref-law> n'est réalisée.
1.1 A._ et B._ sont domiciliés au chemin de Fontanivent 64 et ont une vue directe sur la parcelle 8'089, dont ils ne sont séparés que par la route de Fontanivent. Ils se trouvent dès lors dans une situation suffisamment étroite avec l'objet de la contestation. Particulièrement touchés par l'arrêt attaqué, ils disposent ainsi de la qualité pour recourir au sens de l'<ref-law>.
Helvetia Nostra est reconnue comme une association d'importance nationale vouée à la protection de l'environnement, de la nature et du paysage (cf. ch. 9 de l'annexe à l'ordonnance relative à la désignation des organisations habilitées à recourir dans les domaines de la protection de l'environnement ainsi que de la protection de la nature et du paysage [ODO; RS 814.076]). A ce titre, elle a la qualité pour agir par la voie du recours en matière de droit public, dans la mesure où elle allègue que la décision litigieuse est susceptible de porter atteinte aux intérêts de la nature et du paysage (art. 89 al. 2 let. d LTF en relation avec les dispositions des lois spéciales).
1.2 Les recourants concluent à l'annulation de l'arrêt du Tribunal cantonal du 13 mars 2008. Cette décision annulait l'autorisation de construire trois immeubles résidentiels et de démolir des bâtiments sis sur la parcelle 8'089. N'ayant pas été attaquée en temps utile (<ref-law>), elle est entrée en force et exécutoire (cf. art. 58 de la loi cantonale vaudoise sur la procédure administrative). Partant, la conclusion précitée est irrecevable.
1.3 Les autres conditions de recevabilité sont remplies si bien qu'il y a lieu d'entrer en matière.
2. A titre de moyens de preuve, les recourants sollicitent l'édition du dossier de la procédure pénale contre D._ et consorts ainsi que celle du dossier "audit" de la commune de Montreux en matière d'aliénation et d'acquisition d'immeubles. Il n'y a pas lieu de donner suite à ces demandes de production de documents, dès lors qu'elles n'apparaissent pas pertinentes (cf. consid. 3 ci-après) et que le Tribunal fédéral s'estime suffisamment renseigné pour statuer en l'état du dossier.
Par ailleurs, les recourants demandent au Tribunal fédéral de requérir les prises de position de l'OFEV, de l'ARE ainsi que de l'Office fédéral de la culture. Leurs deux premières requêtes sont satisfaites, l'OFEV et l'ARE s'étant déterminés respectivement les 23 novembre 2011 et 5 janvier 2012. Il n'a en revanche pas été jugé utile de requérir des observations de l'Office fédéral de la culture, le dossier ne soulevant aucune question en relation avec les matières traitées par cet office.
3. Dans un premier grief, les recourants se plaignent d'un déni de justice formel ainsi que d'une violation des règles en matière de récusation. Invoquant les art. 29 al. 2 et 30 Cst. ainsi que 6 par. 1 et 13 CEDH, ils reprochent au Tribunal cantonal de n'avoir pas examiné le fond de leur requête de récusation et estiment que la municipalité de Montreux aurait dû se récuser dans cette procédure. Ils font valoir que le procès pénal contre D._ (ancien conseiller municipal) et consorts a permis de constater que la vente du domaine des Bosquets était "contraire aux moeurs". Il existerait par ailleurs une connivence clairement établie, faisant naître un soupçon de partialité, entre le Conseil municipal et l'acquéreur de la parcelle en cause, la municipalité ayant notamment omis à deux reprises de prendre des sanctions contre l'abattage des arbres et s'étant opposée à l'initiative "sauver les Bosquets de Fontanivent".
3.1 L'art. 29 al. 1 Cst. dispose que toute personne a droit, dans une procédure judiciaire ou administrative, à ce que sa cause soit traitée équitablement. Selon la jurisprudence, ce droit permet notamment d'exiger la récusation des membres d'une autorité administrative dont la situation ou le comportement sont de nature à faire naître un doute sur leur indépendance ou leur impartialité; il tend à éviter que des circonstances extérieures à l'affaire ne puissent influencer une décision en faveur ou au détriment de la personne concernée. La récusation peut s'imposer même si une prévention effective du membre de l'autorité visée n'est pas établie, car une disposition interne de sa part ne peut guère être prouvée; il suffit que les circonstances donnent l'apparence de la prévention et fassent redouter une activité partiale. Cependant, seules des circonstances constatées objectivement doivent être prises en considération; les impressions purement individuelles d'une des personnes impliquées ne sont pas décisives (<ref-ruling> consid. 6.2 p. 6; <ref-ruling> consid. 1.1 p. 25 et les arrêts cités).
Contrairement à l'art. 30 al. 1 Cst., l'art. 29 al. 1 Cst. n'impose pas l'indépendance et l'impartialité comme maxime d'organisation. En règle générale, les prises de position qui s'inscrivent dans l'exercice normal de fonctions gouvernementales, administratives ou de gestion, ou dans les attributions normales de l'autorité partie à la procédure, ne permettent pas de conclure à l'apparence de la partialité et ne justifient pas la récusation (cf. <ref-ruling> consid. 3f p. 124s., 209 consid. 8a p. 218; arrêt 2P.56/2004 du 4 novembre 2004 consid. 3.3). Une autorité, ou l'un de ses membres, a en revanche le devoir de se récuser lorsqu'elle dispose d'un intérêt personnel dans l'affaire à traiter, qu'elle manifeste expressément son antipathie envers l'une des parties à la procédure ou s'est forgé une opinion inébranlable avant même d'avoir pris connaissance de tous les faits pertinents de la cause (cf. arrêt 1C_455/2010 du 7 janvier 2011 consid. 2.2 et les arrêts cités).
Enfin, le grief tiré de la prévention d'un membre d'une autorité doit être soulevé aussitôt que possible, à défaut de quoi le plaideur est réputé avoir tacitement renoncé à s'en prévaloir. Celui qui omet de dénoncer immédiatement un tel vice et laisse la procédure se dérouler sans intervenir, agit contrairement à la bonne foi et voit se périmer son droit de se plaindre ultérieurement de la violation qu'il allègue (cf. <ref-ruling> consid. 4.3 p. 496; <ref-ruling> consid. 2 p. 122 s.; <ref-ruling> consid. 5a p. 227 s.). Une partie ne saurait en effet attendre l'issue de la procédure, par hypothèse défavorable, pour dénoncer un tel vice de procédure.
3.2 En l'espèce, le Tribunal cantonal s'est déjà prononcé sur la requête de récusation présentée par Helvetia Nostra, qu'il a considérée comme mal fondée, dans son arrêt du 13 mars 2008. Mis à part la procédure pénale ouverte entretemps à l'encontre du conseiller municipal D._, les recourants avançaient les mêmes arguments qu'aujourd'hui. Or, ils n'ont pas recouru contre cette décision auprès du Tribunal fédéral. De même, le 26 novembre 2009, le Tribunal cantonal a admis le recours de C._ et renvoyé le dossier à la municipalité pour qu'elle statue sur le projet litigieux, sans attendre l'issue de la procédure pénale en cours. Les recourants n'ont pas non plus attaqué cet arrêt, renonçant à se plaindre de la supposée prévention du conseil communal et admettant ainsi implicitement la compétence de cette autorité. Le grief tiré d'une violation des règles de la récusation, soulevé dans leur recours du 20 avril 2010 au Tribunal cantonal, apparaît dès lors tardif. Quoi qu'il en soit, même s'il était admissible, il devrait être rejeté pour les motifs suivants.
Il ressort de l'arrêt attaqué que la procédure pénale évoquée par les recourants est close et que l'accusation de corruption en lien avec le transfert immobilier portant sur la propriété des Bosquets a été abandonnée. Les recourants ne peuvent dès lors tirer aucun argument de cette circonstance. Les juges cantonaux, renvoyant à leur arrêt du 13 mars 2008, ont au demeurant relevé à juste titre que la municipalité était en droit de statuer sur une demande de permis de construire, même lorsqu'elle concernait une parcelle communale vendue à un tiers. Il ne saurait par ailleurs y avoir de "partialité subjective" de la municipalité au seul motif qu'elle ne partageait pas l'opinion des recourants quant au sort qu'il convenait de réserver au domaine des Bosquets. De même, le fait que le Conseil communal aurait omis à deux reprises de prendre des sanctions contre l'abattage des arbres sur la parcelle en cause et aurait proposé l'invalidation de l'initiative "sauver les Bosquets de Fontanivent" ne permet pas de conclure à une connivence entre cette autorité et les promoteurs. En résumé, les éléments avancés par les recourants ne parviennent pas à démontrer une apparence objective de partialité qui, conformément à la jurisprudence relative à l'art. 29 al. 1 Cst., aurait obligé la municipalité à se récuser.
3.3 Au vu de ce qui précède, les recourants reprochent en vain au Tribunal cantonal d'avoir commis un déni de justice formel en ne se prononçant pas suffisamment sur leur demande de récusation: l'arrêt attaqué a traité leur grief et la motivation des juges cantonaux, renvoyant à l'arrêt du 13 mars 2008, est satisfaisante au point de vue du droit d'être entendu, de sorte que les recourants ont eu la possibilité de l'attaquer en connaissance de cause.
4. Les recourants font ensuite valoir une violation de l'art. 18 de la loi fédérale du 1er juillet 1966 sur la protection de la nature et du paysage (RS 451; LPN). A leur avis, les Bosquets de Fontanivent constituent un biotope au sens de la législation cantonale et fédérale. Le projet de construction impliquerait la destruction irréversible de cet écosystème.
Dans son arrêt du 13 mars 2008, le Tribunal cantonal avait considéré que l'on ne se trouvait pas en présence d'un biotope protégé, se fondant sur l'avis du conservateur de la nature et ayant dans sa composition un biologiste spécialiste de l'environnement; il ne voyait pas de raison de s'écarter de cette appréciation dans le cadre de la présente procédure. Les juges cantonaux ont ainsi retenu que le domaine litigieux était un espace aménagé en relation avec un bâtiment d'habitation et non un milieu d'origine naturelle. La plus grande partie des arbres était d'essence exotique et la pelouse ne présentait aucune caractéristique particulière. Le conservateur indiquait que, malgré ses passages sur place, il n'avait découvert aucune espèce mentionnée dans les listes rouges publiées ou reconnues par l'OFEV. Dans ses observations du 23 novembre 2011, l'OFEV expose que l'étude approfondie du dossier n'a permis de déceler aucune raison de s'écarter de l'appréciation des différentes autorités vaudoises consultées. Les recourants, qui ne contestent pas les faits retenus par le Tribunal cantonal à l'appui de sa motivation, n'apportent aucun argument nouveau ou décisif; ils se contentent d'affirmer que dix-neuf espèces de feuillus et vingt-huit espèces de conifères se trouvent sur la parcelle, ainsi que plusieurs arbres centenaires et une flore précieuse. Cela ne permet toutefois pas de conclure à l'existence d'un biotope protégé au sens de la législation sur la protection de la nature. Mal fondé, le présent grief doit être rejeté.
5. Les recourants dénoncent une violation de la LAT. Ils font valoir que le RPA de 1972 est obsolète et que la ville de Montreux dispose d'une réserve de terrains à bâtir surdimensionnée. Il aurait donc été judicieux d'attendre le résultat du réexamen du RPGA 2007 en cours. C'est de manière arbitraire que la municipalité a refusé d'appliquer l'art. 77 de la loi cantonale du 4 décembre 1985 sur l'aménagement du territoire et les constructions (ci-après: LATC) pour s'opposer au projet qui, bien que conforme au règlement en vigueur, est contraire à l'affectation envisagée. En effet, la zone concernée devrait, à leur avis, être affectée en zone à préserver au sens de l'art. 17 al. 1 LAT et ne pourrait être incluse dans la zone à bâtir, ne faisant pas partie d'une agglomération déjà bâtie au sens de l'art. 36 al. 3 LAT.
5.1 La loi fédérale sur l'aménagement du territoire est entrée en vigueur le 1er janvier 1980. Elle charge la Confédération, les cantons et les communes d'établir des plans d'aménagement pour celles de leurs tâches dont l'accomplissement a des effets sur l'organisation du territoire (art. 2 al. 1 LAT). Les cantons et les communes doivent ainsi élaborer des plans d'affectation, qui règlent le mode d'utilisation du sol (art. 14 al. 1 LAT) et délimitent en premier lieu les zones à bâtir, les zones agricoles et les zones à protéger (art. 14 al. 2 LAT). Aux termes de l'art. 15 LAT, les zones à bâtir comprennent les terrains propres à la construction qui sont déjà largement bâtis (let. a) ou qui seront probablement nécessaires à la construction dans les quinze ans à venir et seront équipés dans ce laps de temps (let. b).
Les cantons doivent veiller à ce que les plans d'affectation soient établis à temps, mais au plus tard dans un délai de huit ans à compter de l'entrée en vigueur de la LAT, soit jusqu'au 1er janvier 1988 (art. 35 al. 1 let. b LAT). Les plans d'affectation adoptés avant l'entrée en vigueur de la LAT conservent leur validité jusqu'à cette date (art. 35 al. 3 LAT). Ensuite, tant que le nouveau plan d'affectation n'a pas délimité des zones à bâtir, est réputée zone à bâtir provisoire la partie de l'agglomération qui est déjà largement bâtie, sauf disposition contraire du droit cantonal (art. 36 al. 3 LAT). Lorsqu'un plan d'affectation a été établi sous l'empire de la LAT, afin de mettre en oeuvre les objectifs et principes de cette législation, il existe en effet une présomption qu'il est conforme aux buts et aux principes de cette loi, alors que les plans d'affectation qui n'ont pas encore été adaptés aux exigences de la LAT ne bénéficient pas de cette présomption et leur stabilité n'est pas garantie (cf. art. 21 al. 1 LAT; cf. <ref-ruling> consid. 6b/aa p. 106; <ref-ruling> consid. 2c p. 233).
En l'espèce, le RPA de 1972 n'a pas fait l'objet d'une modification en vue de sa mise en conformité ou de son adaptation aux exigences de la LAT, hormis sa révision du 8 avril 1987 répondant à l'obligation de créer des zones agricoles, qui n'a cependant pas touché les secteurs compris dans l'agglomération de Montreux; il n'existe donc pas de présomption qu'il satisfasse aux exigences du droit de l'aménagement du territoire énoncées dans cette loi. Ainsi, les parties du RPA de 1972 qui n'étaient pas conformes aux dispositions de la LAT - concernant notamment la délimitation des zones à bâtir (art. 15 LAT) - sont devenues caduques le 1er janvier 1988, les parties largement bâties étant réputées zones à bâtir provisoires au sens de l'art. 36 al. 3 LAT.
5.2 La notion de "terrains déjà largement bâtis" de l'art. 15 let. a LAT doit être comprise de manière étroite. Elle ne s'applique pas à n'importe quel groupe de constructions; il faut que l'on soit en présence d'un milieu bâti, qui présente les caractéristiques d'une "agglomération", avec les infrastructures habituelles ("Siedlungsstruktur"). Les critères à prendre en compte sont notamment le caractère compact de l'ensemble construit, les équipements, les liaisons avec les autres zones à bâtir ou l'infrastructure publique. Il convient de faire une distinction entre les notions de "brèche ou d'espace vide dans le tissu bâti" et de "surface non bâtie plus étendue à l'intérieur du milieu bâti" parmi lesquelles il faut compter les espaces verts destinés à aérer l'espace bâti; dans ce dernier cas de figure, les terrains n'appartiennent pas au territoire déjà largement bâti. Plus la brèche dans le tissu bâti est étendue, moins le contexte environnant prend de l'importance (<ref-ruling> consid. 4.1 p. 223; <ref-ruling> consid. 5a p. 424; <ref-ruling> consid. 2b p. 201; <ref-ruling> consid. 4d/da p. 451 et les arrêts cités; BERNHARD WALDMANN/PETER HÄNNI; Raumplanungsgesetz, 2006, n. 21 ss ad art. 15 LAT; PIERMARCO ZEN-RUFFINEN/CHRISTINE GUY-ECABERT, Aménagement du territoire, construction, expropriation, 2001, p. 145 s.; ALEXANDRE FLÜCKIGER/ STÉPHANE GRODECKI, Commentaire LAT, 2009, n. 85 ss ad art. 15 LAT).
5.2.1 Le Tribunal cantonal a considéré que la parcelle 8'089 se situait dans la partie de l'agglomération déjà largement bâtie au sens de l'art. 36 al. 3 LAT. Il a en effet relevé que ce bien-fonds ne se trouvait pas en périphérie de la zone à bâtir, mais au milieu d'une zone urbanisée. Le schéma directeur sectoriel Brent-Fontanivent-Chernex la qualifiait d'espace privé non bâti ou faiblement bâti, participant à la mise en valeur du site, et non d'espace agricole à protéger. On se trouvait au contraire en présence d'un espace libre, inclus dans un contexte propice à la construction en raison de sa position dans le tissu bâti, de son accessibilité et de ses dimensions.
L'ARE est au contraire d'avis que le bien-fonds en question ne fait pas partie du territoire largement bâti au sens de l'art. 36 al. 3 LAT. Il n'existe pas de noyau bâti, les constructions étant assez dispersées, et il s'agit d'une grande parcelle (18'850 m2) constituant pour partie un vaste parc arborisé et ne supportant que quelques constructions. En raison de sa grande taille, la parcelle a ainsi une fonction propre et n'est dès lors pas comprise dans le territoire largement bâti.
5.2.2 Dans le cas particulier, les parcelles 8'089 et 8'090 acquises simultanément par l'intimée totalisent certes une surface de 18'850 m2. Ces deux parcelles sont toutefois séparées par la voie ferrée et la surface "jardin" de la parcelle 8'089 représente 16'381 m2. Selon la jurisprudence, une surface non construite peut en principe être considérée comme une brèche dans le milieu bâti jusqu'à 1 ha; au-delà, la conclusion inverse s'impose (cf. arrêt 1P.692/2001 du 22 janvier 2002 consid. 3.4.1, in ZBl 2003 p. 650, et les arrêts cités). Dans ces conditions, au vu de sa surface largement supérieure à la limite fixée par la jurisprudence, la parcelle en cause ne peut pas être qualifiée de brèche dans le tissu bâti. Face à la taille du bien-fonds, le contexte urbanistique dans lequel il s'insère perd en effet de son importance; il importe dès lors peu que la propriété se trouve au milieu d'une zone largement construite et supporte quelques bâtiments dispersés.
Cela étant, il sied de souligner que l'attribution d'une surface aussi étendue à la zone à bâtir doit être décidée par le biais d'un plan d'affectation, lequel est l'instrument de planification adéquat pour prendre en considération les critères énoncés à l'art. 15 LAT, en fonction de l'ensemble des parcelles de la commune. Au surplus, cet instrument est soumis au contrôle démocratique (cf. art. 33 al. 1 et 2 LAT), contrairement aux autorisations de construire octroyées au cas par cas. Au demeurant, il se justifie d'autant moins d'assouplir en l'espèce le régime transitoire prévu à l'art. 36 al. 3 LAT que la commune de Montreux accuse un retard de plus de 20 ans dans l'élaboration d'un plan d'affectation conforme à la LAT.
Au vu de ce qui précède, le grief tiré d'une violation de la LAT apparaît bien fondé et le recours doit être admis sur ce point. La parcelle ne pouvant être considérée comme une zone à bâtir provisoire au sens de l'art. 36 al. 3 LAT, l'autorisation de construire octroyée le 10 mars 2010 par la municipalité doit être annulée.
5.3 Cela rend sans objet les critiques des recourants relatives à une application arbitraire de l'art. 77 LATC (refus anticipé négatif). Au demeurant, leur argument selon lequel la parcelle en cause devrait faire partie de la zone à protéger au sens de l'art. 17 LAT relève davantage de la procédure d'élaboration du RPGA 2007.
6. Les recourants contestent enfin le changement d'affection de l'immeuble ECA 2'149; il s'agirait d'un changement très important, puisque les appartements ont été transformés en bureau, et l'autorisation y relative aurait dû être délivrée sur la base de l'art. 24 LAT. Ils indiquent que cette autorisation a été délivrée le 1er mai 2009 par le service cantonal de l'économie, du logement et du tourisme. Or, comme le relève l'arrêt attaqué, le permis de construire délivré par la municipalité le 3 mars 2010 ne porte pas sur les travaux de transformation de l'immeuble ECA 2'149, lesquels ont fait l'objet d'une procédure séparée. Dans ces conditions, c'est à juste titre que le Tribunal cantonal a considéré que cette question débordait de l'objet du litige, de sorte que tout grief à cet égard était irrecevable.
7. Les considérants qui précèdent conduisent à l'admission du recours, dans la mesure où il est recevable. L'arrêt attaqué doit être annulé, ainsi que l'autorisation de construire de la municipalité du 10 mars 2010, et l'affaire renvoyée au Tribunal cantonal pour nouvelle décision sur les frais et dépens de la procédure cantonale (art. 67 et 68 al. 5 LTF).
Les frais judiciaires sont mis à la charge de l'intimée qui succombe (<ref-law>). Elle versera en outre une indemnité de dépens aux recourants qui ont procédé avec l'assistance d'un avocat (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis dans la mesure où il est recevable. L'arrêt attaqué est annulé, ainsi que l'autorisation de construire du 10 mars 2010.
2. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge de l'intimée.
3. L'intimée versera aux recourants la somme de 4'000 fr. à titre de dépens.
4. La cause est renvoyée au Tribunal cantonal pour nouvelle décision sur les frais et dépens de la procédure cantonale.
5. Le présent arrêt est communiqué aux mandataires des parties et de la Municipalité de Montreux, au Département de la sécurité et de l'environnement, Service des forêts, de la faune et de la nature, au Département de l'intérieur, Service du développement territorial, et au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public, ainsi qu'à l'Office fédéral du développement territorial et à l'Office fédéral de l'environnement, Division Droit.
Lausanne, le 28 juin 2012
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
La Greffière: Mabillard