Faits:
A. A._, B._ et C._ sont propriétaires de la parcelle n° 29 du registre foncier de Château-d'Oex, au lieu-dit "La Frasse". Ce bien-fonds est situé en zone de chalets, régie par les art. 14 ss du règlement communal sur le plan d'extension et la police des constructions (ci-après le RPE), approuvé par le Conseil d'Etat du canton de Vaud le 19 septembre 1980 et modifié pour la dernière fois en 2009. La société D._ est propriétaire de la parcelle voisine n° 4243, également située en zone de chalets. Par décision du 6 août 2009, la Commune de Château-d'Oex lui a accordé l'autorisation de construire sur ce bien-fonds deux chalets comprenant chacun plusieurs logements ainsi qu'un garage souterrain.
Le 15 septembre 2009, A._, B._ et C._ et une vingtaine d'autres propriétaires du secteur ont requis de la Commune de Château-d'Oex l'élaboration d'un plan de quartier intitulé "La Frasse-Dessous", afin de limiter la construction de résidences secondaires dans un périmètre donné incluant notamment la parcelle n° 4243. Ils demandaient également à la commune de surseoir à l'octroi du permis de construire délivré le 6 août 2009. Ce permis a par ailleurs été contesté dans le cadre d'une procédure distincte, qui fait l'objet d'une cause connexe (arrêt 1C_482/2010 de ce jour). Par décision du 22 octobre 2009, la Commune de Château-d'Oex a refusé de donner suite à la requête tendant à l'établissement du plan de quartier précité.
B. A._, B._ et C._ ont recouru contre cette décision auprès de la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal), qui a rejeté ce recours par arrêt du 24 août 2010. En substance, le Tribunal cantonal a considéré que l'établissement du plan de quartier requis par les recourants n'était pas l'instrument adéquat pour lutter contre la problématique des "lits froids", qui doit se régler au niveau communal, voire régional.
C. Agissant par la voie du recours en matière de droit public, A._, B._ et C._ demandent au Tribunal fédéral d'annuler cet arrêt et de renvoyer le dossier à la Commune de Château-d'Oex pour qu'elle procède à l'étude du plan de quartier sollicité et ordonne les mesures provisoires nécessaires à cet effet. Ils requièrent en outre l'octroi de l'effet suspensif. Au terme de ses observations, D._ conclut au rejet du recours, dans la mesure de sa recevabilité. La Commune de Château-d'Oex conclut au rejet du recours. Le Service cantonal du développement territorial s'est déterminé sommairement. Le Tribunal cantonal y a renoncé. Les recourants et D._ ont présenté plusieurs observations complémentaires.
D. Par ordonnance du 3 novembre 2010, le Président de la Ire Cour de droit public a rejeté la requête d'effet suspensif.
Considérant en droit:
1. Dirigé contre une décision rendue dans le domaine du droit public de l'aménagement du territoire, le recours est recevable comme recours en matière de droit public conformément aux art. 82 ss de la loi sur le Tribunal fédéral (LTF; RS 173.110) auxquels renvoie l'art. 34 al. 1 de la loi sur l'aménagement du territoire du 22 juin 1979 ([LAT; RS 700]; ATF 133 II 353 consid. 2 p. 356, 249 consid. 1.2 p. 251), aucune des exceptions prévues à l'art. 83 LTF n'étant réalisée. L'arrêt attaqué confirme le refus du plan de quartier requis par les recourants, pour un secteur comprenant leurs parcelles. On peut admettre qu'ils sont particulièrement atteints par l'acte litigieux et qu'ils ont la qualité pour recourir au sens de l'art. 89 al. 1 LTF. Pour le surplus, interjeté en temps utile contre une décision finale prise en dernière instance cantonale, le recours est recevable au regard des art. 86 al. 1 let. d, 90 et 100 al. 1 LTF.
2. Après le premier échange d'écritures, les recourants et l'intimée se sont encore exprimés chacun à trois reprises, en demandant notamment que certaines écritures tardives de la partie adverse soient déclarées irrecevables. Toutes ces observations étant dénuées de pertinence, il n'en sera pas tenu compte. Dans ces conditions, les requêtes précitées sont sans objet.
3. L'écriture de recours comporte de nombreux éléments de fait qui ne ressortent pas de l'arrêt attaqué et les recourants se plaignent d'un établissement des faits "sommaire, voire lacunaire". Conformément à l'art. 105 al. 1 LTF, le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente. L'art. 105 al. 2 LTF lui permet cependant de rectifier ou compléter d'office les constatations de l'autorité précédente si les faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF. Cette disposition vise en particulier la violation de l'interdiction constitutionnelle de l'arbitraire (art. 97 al. 1 LTF; ATF 134 V 53 consid. 4.3 p. 62; Message concernant la révision totale de l'organisation judiciaire fédérale du 28 février 2001, FF 2001 p. 4135; pour une définition de l'arbitraire cf. ATF 134 I 263 consid. 3.1 p. 265 s.; 133 I 149 consid. 3.1 p. 153). Il appartient au recourant de démontrer cette violation, par une argumentation répondant aux exigences de motivation de l'art. 42 al. 2 LTF. Les recourants ne le font pas en l'espèce; ils se limitent en effet à compléter un état de fait qu'ils jugent incomplet, en présentant leur propre lecture du dossier, mais ils ne démontrent pas en quoi l'arrêt attaqué serait entaché d'arbitraire à cet égard. Au demeurant, les prétendues lacunes de l'état de fait n'apparaissent pas évidentes et on ne voit pas d'emblée en quoi les faits allégués par les recourants seraient de nature à remettre en cause la solution du Tribunal cantonal. Dans ces conditions, il n'y a pas lieu de s'écarter des faits retenus dans la décision attaquée.
4. Dans un grief d'ordre formel qu'il convient d'examiner en premier lieu, les recourants se plaignent d'une violation de leur droit d'être entendus. Ils soutiennent que le Tribunal cantonal a confirmé la décision de la commune par substitution de motifs et qu'ils n'ont pas eu l'occasion de se déterminer sur la motivation retenue.
4.1 Tel qu'il est garanti à l'art. 29 al. 2 Cst., le droit d'être entendu comprend notamment le droit pour l'intéressé de s'exprimer sur les éléments pertinents avant qu'une décision ne soit prise touchant sa situation juridique, le droit de consulter le dossier, de produire des preuves pertinentes, d'obtenir qu'il soit donné suite à ses offres de preuve pertinentes, de participer à l'administration des preuves essentielles ou à tout le moins de s'exprimer sur son résultat, lorsque cela est de nature à influer sur la décision à rendre (ATF 135 II 286 consid. 5.1 p. 293; 129 II 497 consid. 2.2 p. 504 s.; 127 I 54 consid. 2b p. 56 et les arrêts cités). Le droit d'être entendu porte avant tout sur les questions de fait. Les parties doivent éventuellement aussi être entendues sur les questions de droit lorsque l'autorité concernée entend se fonder sur des normes légales dont la prise en compte ne pouvait pas être raisonnablement prévue par les parties, lorsque la situation juridique a changé ou lorsqu'il existe un pouvoir d'appréciation particulièrement large (ATF 129 II 497 consid. 2.2 p. 504 s.; 127 V 431 consid. 2b; 126 I 19 consid. 2c/aa p. 22; 124 I 49 consid. 3c p. 52; 115 Ia 94 consid. 1b p. 96 s. et les références).
4.2 En l'occurrence, les recourants affirment seulement qu'ils n'ont pas eu l'occasion de se déterminer sur le motif retenu par le Tribunal cantonal pour confirmer la décision de la commune. Ils n'exposent pas en quoi les conditions leur donnant le droit d'être entendus sur des questions de droit seraient réunies. En particulier, ils ne prétendent pas que les normes légales sur lesquelles se fonde l'arrêt attaqué ne pouvaient pas être raisonnablement prévues. Au demeurant, l'arrêt en question ne fait que répondre aux griefs soulevés contre la décision communale et appliquer la règle de l'art. 21 al. 2 LAT sur la stabilité des plans, de sorte que les recourants, assistés d'un avocat, ne sauraient se déclarer surpris par les dispositions appliquées, même si les motifs retenus dans l'arrêt querellé diffèrent de la motivation succincte de la décision communale. En définitive, dans la mesure où le Tribunal cantonal ne s'est pas fondé sur des normes légales dont la prise en compte ne pouvait pas être raisonnablement prévue par les parties, il n'était pas tenu d'interpeller ces dernières sur les questions de droit. Il n'y a donc pas eu de violation du droit d'être entendu, de sorte que ce grief doit être rejeté.
5. Par ailleurs, dans une argumentation parfois difficilement compréhensible, les recourants font part de considérations sur l'art. 77 de la loi cantonale sur l'aménagement du territoire et les constructions (LATC; RSV 700.11), dont ils invoquent implicitement la violation. Cela étant, la violation du droit cantonal ne constitue pas un motif de recours, sauf dans les cas prévus par l'art. 95 let. c à e LTF, qui n'entrent pas en considération en l'espèce. Elle ne peut dès lors être invoquée que si elle constitue également une atteinte au droit fédéral au sens de l'art. 95 let. a LTF ou au droit international au sens de l'art. 95 let. b LTF. L'atteinte au droit fédéral peut notamment résulter du fait que le droit cantonal a été appliqué de façon arbitraire, ce que le recourant doit démontrer conformément aux exigences déduites des art. 42 al. 2 et 106 al. 2 LTF (ATF 133 II 249 consid. 1.2.1 et 1.4.2 p. 251 ss et les références). Une telle démonstration faisant défaut en l'occurrence, ce grief est irrecevable.
6. On comprend en outre que les recourants se plaignent d'une violation de l'art. 21 al. 2 LAT, relatif à l'adaptation des plans.
6.1 Aux termes de cette disposition, les plans d'affectation font l'objet des adaptations nécessaires lorsque les circonstances se sont sensiblement modifiées. En énonçant un principe pour l'adaptation des plans d'affectation en vigueur, le législateur fédéral a choisi une solution de compromis entre deux exigences contradictoires: d'une part, l'aménagement du territoire étant un processus continu, et la détermination des différentes affectations impliquant des pesées d'intérêts fondées sur des circonstances changeantes et des pronostics qui ne se confirment jamais entièrement, l'adaptation périodique des plans d'affectation est indispensable pour assurer, progressivement, leur conformité aux exigences légales; d'autre part, il faut tenir compte des intérêts privés et publics dont la protection nécessite une certaine sécurité juridique. Pour apprécier l'évolution des circonstances et la nécessité d'adapter un plan d'affectation, une pesée des intérêts s'impose. L'intérêt à la stabilité du plan, que les propriétaires fonciers peuvent invoquer dans certaines circonstances, doit être mis en balance avec l'intérêt à l'adoption d'un nouveau régime d'affectation, qui peut lui aussi être protégé par la garantie de la propriété. Selon les cas, des intérêts publics pourront également justifier soit la stabilité du plan, soit son adaptation. Il incombe donc à l'autorité appelée à statuer sur un projet de modification d'un plan en vigueur d'examiner, en fonction des circonstances concrètes, une pluralité d'intérêts (ATF 132 II 408 consid. 4.2 p. 413; 128 I 190 consid. 4.2 p. 198 s. et les références citées).
6.2 En l'occurrence, le Tribunal cantonal a constaté que les circonstances s'étaient sensiblement modifiées depuis l'adoption du RPE en 1980, ce qui justifiait l'adaptation de cette règlementation en vertu de l'art. 21 al. 2 LAT. Il a également estimé que les recourants poursuivaient un but conforme aux exigences de l'aménagement du territoire et au plan directeur cantonal, à savoir la lutte contre la problématique dite des "lits froids" ou des "volets clos". Il a toutefois considéré que l'établissement d'un plan de quartier limité au secteur "La Frasse-Dessous" ne constituait pas l'instrument adéquat et nécessaire pour atteindre le but visé. En effet, la lutte contre la multiplication des résidences secondaires ne devait pas être menée à l'échelle d'un quartier, mais à l'échelle de la commune, voire de la région.
L'argumentation présentée par les recourants n'est pas de nature à remettre en cause cette appréciation. Ils prétendent qu'il n'est "pas sérieux de soutenir", comme l'aurait fait le Tribunal cantonal, "que l'étude du plan de quartier [...] puisse valablement se faire en faisant abstraction de la planification communale (voire régionale)". L'arrêt querellé n'a cependant pas cette teneur, puisqu'il se limite à constater que l'instrument proposé par les recourants, à savoir l'adoption d'un plan de quartier pour le secteur "La Frasse-Dessous", n'est pas apte à lutter contre la problématique plus générale des "lits froids". Les recourants reconnaissent d'ailleurs que leur demande de plan de quartier ne visait concrètement qu'à faire échec au projet de construction autorisé dans le secteur par décision du 6 août 2009 (recours p. 7 in fine), même s'ils prétendent par ailleurs vouloir éviter que ce projet compromette la politique générale de lutte contre les lits froids. Il n'est cependant nullement établi que le refus du plan de quartier, voire la réalisation du projet contesté, remette en cause la politique générale de lutte contre le développement excessif des résidences secondaires. En définitive, c'est bien l'aspect local de la mesure requise qui a motivé le refus de celle-ci, un plan de quartier limité au secteur concerné n'étant pas de nature à atteindre les objectifs prétendument poursuivis par les requérants. Dans ces conditions, il n'apparaît pas que la commune ait abusé de son pouvoir d'appréciation en refusant l'établissement du plan de quartier demandé, de sorte que l'arrêt attaqué peut être confirmé sur ce point.
7. Il s'ensuit que le recours doit être rejeté, dans la mesure de sa recevabilité. Les recourants, qui succombent, doivent supporter les frais de la présente procédure (art. 66 al. 1 LTF). Ils verseront en outre une indemnité à titre de dépens à l'intimée, qui s'est déterminée avec l'assistance d'un avocat (art. 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté, dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge des recourants.
3. Une indemnité de 2'000 fr. est allouée à l'intimée à titre de dépens, à la charge des recourants.
4. Le présent arrêt est communiqué aux mandataires des parties, à la Commune de Château-d'Oex, au Service du développement territorial et au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public.
Lausanne, le 14 avril 2011
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Fonjallaz Rittener