Faits:
A. A._ et B._ sont copropriétaires, sur le territoire de la commune de Boudry, d'une parcelle de 4'811 m2, portant au registre foncier le n° 6602 (anciennement n° 4874). Leurs parents D._ et C._ sont usufruitiers de ce bien-fonds non bâti, qui se trouve dans le hameau du "Vieil Areuse".
B. Selon le plan d'aménagement communal et le règlement d'urbanisme (RU) adoptés par le Conseil communal en 1976 et entrés en vigueur en 1979 (ci-après: la réglementation de 1979), la partie de la parcelle n° 4874 classée en zone d'ancienne localité, soit 2'011 m2, était constructible. Conformément à l'art. 104 let. b RU l'implantation de nouvelles constructions était toutefois subordonnée à la présentation d'un plan de quartier, la parcelle précitée étant située dans un secteur comportant des constructions en ordre dispersé.
Un nouveau plan d'urbanisation et un nouveau règlement d'aménagement communal (RAC) ont été adoptés en 1995 et sont entrés en vigueur le 21 juin 1996 (ci-après: la réglementation de 1996). La zone d'ancienne localité du hameau du Vieil Areuse est maintenue - et la partie nord de la parcelle n° 4874 (aujourd'hui n° 6602) demeure classée dans cette zone - mais l'art. 11.1.6 ch. 1 RAC prévoit désormais que la construction de nouveaux bâtiments est interdite dans le secteur du Vieil Areuse.
C. Par demande déposée le 20 décembre 1999 devant la Commission cantonale d'estimation en matière d'expropriation (ci-après: la Commission d'estimation), les copropriétaires et usufruitiers de la parcelle susmentionnée (ci-après: les consorts A._) ont conclu au paiement par la commune de Boudry d'une indemnité d'expropriation matérielle de 263'900 fr., parce que la modification du règlement communal en 1996 avait rendu inconstructible leur terrain classé dans la zone d'ancienne localité. La Commission d'estimation a rejeté la demande par décision du 25 octobre 2001. Pour cette autorité, le terrain n'était pas immédiatement constructible sous l'empire de la réglementation communale de 1979, vu l'exigence de l'établissement préalable d'un plan de quartier. En outre, les propriétaires concernés n'avaient pas manifesté une intention de bâtir suffisamment concrète.
Par arrêt du 5 février 2004, le Tribunal administratif cantonal du canton de Neuchâtel (devenu la Cour de droit public du Tribunal cantonal; ci-après: le Tribunal cantonal), a rejeté le recours formé par les consorts A._ contre cette décision. Il se référait pour l'essentiel à l'argumentation principale de la Commission d'estimation.
Les consorts A._ ont contesté cet arrêt par la voie du recours de droit administratif au Tribunal fédéral, qui a admis ce recours par arrêt du 28 décembre 2004 (1A.58/2004, publié aux <ref-ruling>). En substance, la Cour de céans a considéré que l'exigence de l'art. 104 let. b RU n'empêchait pas, à elle seule, une utilisation probable pour la construction dans un proche avenir. Il y avait donc lieu d'examiner si l'adoption de la nouvelle réglementation pouvait être considérée comme une mesure de déclassement ou de non-classement justifiant une indemnisation. La cause était dès lors renvoyée au Tribunal administratif cantonal pour nouvelle décision. Le 29 mars 2005, ce tribunal a admis le recours des consorts A._, annulé la décision de la Commission d'estimation du 25 octobre 2001 et renvoyé la cause à cette autorité pour nouvelle décision.
D. Après avoir complété l'instruction, la Commission d'estimation a rendu une nouvelle décision le 31 octobre 2008. Elle a déclaré irrecevable la demande du 20 décembre 1999 en tant qu'elle émanait de D._ et C._, usufruitiers du bien-fonds litigieux, et elle a condamné la commune de Boudry à verser à A._ et B._ une indemnité de 262'000 fr. plus intérêt à 5 % l'an dès le 8 mai 1998. Elle a considéré que la portion litigieuse de la parcelle n° 6602 aurait dû être classée en zone à bâtir dès 1979, car elle faisait partie du milieu déjà largement bâti au sens des art. 15 let. a et 36 al. 3 de la loi fédérale sur l'aménagement du territoire (LAT; RS 700). L'interdiction d'y ériger de nouvelles constructions découlant du règlement d'aménagement communal entré en vigueur en 1996 devait donc être considérée comme une mesure de déclassement, constitutive d'une expropriation matérielle donnant lieu à indemnisation.
Par arrêt du 2 novembre 2011, le Tribunal cantonal a rejeté le recours formé par la commune de Boudry contre cette décision. Il a considéré que la mesure litigieuse constituait bien une mesure de déclassement et non un refus de classement en zone à bâtir (ou non-classement). En effet, contrairement à ce que soutenait la commune recourante, la réglementation de 1979 était conforme aux exigences de la LAT et elle retenait à bon droit que le secteur du Vieil Areuse était propre à la construction. Il n'y avait pas lieu d'appliquer l'art. 17 al. 1 let. c LAT réservant les zones à protéger, dès lors que le règlement de 1979 comportait d'autres mesures tendant à la préservation du hameau, ce que permettait l'art. 17 al. 2 LAT. Enfin, le secteur était déjà largement bâti au sens de l'art. 15 let. a LAT, de sorte que la partie litigieuse de la parcelle n° 6602 aurait dû être classée en zone à bâtir dès 1979. L'interdiction de construire découlant du règlement entré en vigueur en 1996 devait par conséquent être qualifiée de mesure de déclassement, ouvrant la voie à une indemnisation pour expropriation matérielle. Les conditions d'une telle indemnisation étaient réalisées, dans la mesure où aucun empêchement juridique n'entravait la construction sous l'empire du règlement de 1979 et dès lors que l'équipement de la parcelle était suffisant au regard de l'art. 19 al. 1 LAT.
E. La commune de Boudry forme un recours contre cet arrêt, en demandant au Tribunal fédéral de l'annuler. Elle conclut également à l'annulation de la décision rendue le 31 octobre 2008 par la Commission d'estimation. Elle invoque la prescription de l'action en indemnisation et se plaint de violations de diverses dispositions de la LAT et de l'art. 26 al. 2 Cst., ainsi que de constatations inexactes ou incomplètes des faits pertinents. Elle requiert en outre l'octroi de l'effet suspensif. Se référant aux considérants de son arrêt, le Tribunal cantonal conclut au rejet du recours. A._, B._, C._ et D._ ont présenté des observations, concluant également au rejet du recours. La Commission cantonale d'estimation et l'Office fédéral du développement territorial ont renoncé à se déterminer.
F. Par ordonnance du 20 décembre 2011, le Président de la Ire Cour de droit public a rejeté la demande d'effet suspensif. Le 3 janvier 2012, la commune de Boudry a présenté une nouvelle requête d'effet suspensif, que le Juge présidant la Ire Cour de droit public a admise par ordonnance du 20 janvier 2012.

Considérant en droit:
1. Dirigé contre une décision finale (<ref-law>), prise en dernière instance cantonale (art. 86 al. 1 let. d LTF) dans une cause de droit public (<ref-law>), le recours est en principe recevable comme recours en matière de droit public au sens des <ref-law>, aucune des exceptions prévues à l'<ref-law> n'étant réalisée. Conformément à l'art. 89 al. 2 let. d LTF, ont la qualité pour recourir les personnes, organisations et autorités auxquelles une loi fédérale accorde un droit de recours. Dans la mesure où l'art. 34 al. 2 let. a LAT réserve expressément le droit de recours des communes contre les décisions portant sur les indemnisations résultant de restrictions au droit de propriété au sens de l'art. 5 LAT, la commune recourante a la qualité pour agir sur la base de l'art. 89 al. 2 let. d LTF (cf. <ref-ruling> consid. 1b p. 4 s.). Pour le surplus, déposé en temps utile (<ref-law>) et dans les formes prévues par la loi (<ref-law>), le recours est recevable.
2. La recourante se plaint principalement d'une violation des normes de la LAT, le Tribunal cantonal ayant selon elle considéré à tort que la réglementation de 1979 était conforme à cette loi. Elle soutient que c'est la planification de 1996 qui répondait pour la première fois aux exigences de la LAT, de sorte que la mesure litigieuse devait être qualifiée de "non-classement" et non pas de "déclassement". Elle invoque également à cet égard une violation de l'art. 26 al. 2 Cst.
2.1 Selon la jurisprudence, il y a expropriation matérielle au sens de l'art. 26 al. 2 Cst. et de l'art. 5 al. 2 LAT lorsque l'usage actuel d'une chose ou son usage futur prévisible est interdit ou restreint de manière particulièrement grave, de sorte que l'intéressé se trouve privé d'un attribut essentiel de son droit de propriété. Une atteinte de moindre importance peut aussi constituer une expropriation matérielle si elle frappe un ou plusieurs propriétaires d'une manière telle que, s'ils n'étaient pas indemnisés, ils devraient supporter un sacrifice par trop considérable en faveur de la collectivité, incompatible avec le principe de l'égalité de traitement. Dans l'un et l'autre cas, la protection ne s'étend à l'usage futur prévisible que dans la mesure où il apparaît, au moment déterminant, comme très probable dans un proche avenir. Par usage futur prévisible d'un bien-fonds, on entend généralement la possibilité de l'affecter à la construction (<ref-ruling> consid. 2.1 p. 155; <ref-ruling> consid. 3a p. 433 et les arrêts cités). A propos de l'expropriation matérielle, la jurisprudence distingue généralement deux hypothèses: d'une part le refus de classement en zone à bâtir ("non-classement", "Nichteinzonung") et d'autre part le déclassement ("Auszonung"). Le Tribunal fédéral a rappelé récemment qu'il n'entendait pas abandonner cette distinction (arrêt 1C_449/2009 du 26 mai 2010 consid. 6.2 et les références citées).
On parle de déclassement lorsqu'un bien-fonds classé dans une zone à bâtir est frappé d'une interdiction de construire (cf. ATF <ref-ruling> consid. 3b p. 433; <ref-ruling> consid. 4c p. 330 et les arrêts cités). Cela présuppose toutefois qu'au moment de l'entrée en force de la mesure de planification qui produirait l'effet d'une expropriation matérielle, la parcelle en question se trouvait comprise dans une zone à bâtir édictée conformément aux prescriptions de la législation fédérale en matière d'aménagement du territoire (ATF <ref-ruling> consid. 4b p. 329 s.; <ref-ruling> consid. 2c p. 41 s.; <ref-ruling> consid. 3 p. 6 s.).
Il y a en revanche refus de classement lorsque la modification d'un plan d'affectation, qui a pour effet de sortir une parcelle de la zone à bâtir où elle se trouvait auparavant, intervient pour adapter ce plan aux exigences de la LAT, entrée en vigueur en 1980 - et partant pour mettre en oeuvre les principes du droit constitutionnel en matière de droit foncier - (<ref-ruling> consid. 2.6 p. 161). Tel est le cas de la décision par laquelle l'autorité de planification, édictant pour la première fois un plan d'affectation conforme aux exigences constitutionnelles et légales, ne range pas un bien-fonds déterminé dans la zone à bâtir et cela même si ce terrain était constructible selon la réglementation antérieure (ATF <ref-ruling> consid. 3b p. 433; <ref-ruling> consid. 4c p. 330; <ref-ruling> consid. 2a p. 128, consid. 2d p. 129 s. et les arrêts cités).
2.2 En l'occurrence, confirmant l'appréciation de la Commission d'estimation, le Tribunal cantonal a considéré que la réglementation entrée en vigueur en 1979 respectait les exigences de la LAT. Elle ne pouvait certes pas être en tous points conforme à cette loi, entrée en vigueur le 1er janvier 1980, mais elle était néanmoins fidèle aux grands principes énoncés par celle-ci.
2.2.1 En principe, les restrictions de la propriété liées à la révision d'un plan d'affectation ou d'un règlement sur les constructions adoptés avant l'entrée en vigueur de la LAT ne constituent pas des mesures de déclassement, mais elles doivent plutôt s'analyser à la lumière des principes relatifs au non-classement. Ce n'est en effet qu'après l'entrée en vigueur de la LAT qu'il a été possible de classer un bien-fonds en zone à bâtir selon la procédure et les principes fondamentaux définis dans cette loi (<ref-ruling> consid. 6b p. 488; <ref-ruling> consid. 5c p. 332; arrêts 1A.72/2003 du 4 novembre 2003 consid. 3; 1A.200/1997 du 11 novembre 1997 consid. 3a, in: ZBl 100/1999 p. 33; ENRICO RIVA, in Commentaire LAT, 2010, n. 143 ad art. 5 LAT; BERNHARD WALDMANN/PETER HÄNNI; Raumplanungsgesetz, 2006, n. 56 ad art. 5 LAT).
Au terme de l'<ref-ruling> concernant la présente cause, l'affaire avait été renvoyée aux autorités cantonales pour qu'elles examinent notamment si la nouvelle réglementation devait être considérée comme une mesure de déclassement ou de non-classement. Cet arrêt a été critiqué par la doctrine, qui y voyait en particulier une contradiction avec la jurisprudence susmentionnée (RUDOLF KAPPELER, Die bundesgerichtliche Entschädigungspraxis bei materieller Enteignung infolge Bauverbotszonen, 2007, p. 40 ss). Cet arrêt ne s'écarte cependant pas de la règle selon laquelle la révision d'une réglementation antérieure à l'entrée en vigueur de la LAT ne constitue en principe pas un déclassement. Il constitue plutôt une exception à ce principe, justifiée par la grande proximité entre l'entrée en vigueur de la réglementation litigieuse le 16 novembre 1979 et celle de la LAT le 1er janvier 1980. En raison de cette proximité temporelle, il y avait lieu d'examiner si la réglementation de 1979 pouvait être matériellement conforme à la LAT nonobstant son antériorité. Cette question n'ayant pas fait l'objet de la procédure menée jusqu'alors et les éléments figurant au dossier ne permettant pas de la trancher, un renvoi se justifiait sur ce point.
Dans le cadre de la nouvelle instruction de la cause, la Commune de Boudry a produit, à la demande de la Commission d'estimation, divers documents relatifs à l'élaboration de la réglementation communale entrée en vigueur le 16 novembre 1979. Il en ressort que les travaux y relatifs avaient en réalité débuté de nombreuses années auparavant. Un rapport du Conseil communal daté du 20 juin 1978 révèle en effet que ces travaux ont commencé le 4 septembre 1972 déjà. Le groupe de travail nommé à cet effet a tenu une vingtaine de séances, en s'inspirant d'un règlement-type; il n'est toutefois pas fait mention de la législation fédérale sur l'aménagement du territoire en cours d'élaboration. Un premier projet de LAT avait pourtant été adopté en 1974 et refusé en votation populaire en 1976. C'est la même année que la réglementation communale a été mise à l'enquête publique, avant d'être approuvée par le Conseil général en 1978. Les nouveaux documents produits par la commune démontrent en outre que le projet de 1976 n'a pas connu de modifications substantielles.
Dans ces conditions, la proximité entre la réglementation de 1979 et la LAT n'est pas aussi grande qu'il n'y paraissait lorsque l'arrêt précité a été rendu, l'essentiel du plan d'aménagement communal et du règlement d'urbanisme ayant été réalisé entre 1972 et 1976. Il ressort en outre des pièces produites par la commune que la législation fédérale en gestation n'a pas pu servir de base à la réglementation de 1979. En revanche, le plan d'urbanisation et le règlement d'aménagement communal entrés en vigueur en 1996 avaient notamment pour but d'adapter la réglementation communale aux exigences de la LAT. Elles apparaissent donc comme les premières règles édictées conformément à la législation fédérale, ce que confirment les divers aspects de la réglementation antérieure examinés ci-après.
2.2.2 Comme le relève l'arrêt attaqué, la réglementation de 1979 visait à assurer un aménagement rationnel du territoire communal (art. 1 RU), instaurait des plans directeurs, d'aménagement, de réseaux et d'alignement et, suivant les besoins, des plans de quartier (art. 3 RU) et divisait le territoire communal en quatorze zones définies chacune selon son caractère, sa destination, les activités admises et les règles de construction à respecter (art. 101 ss RU). Les zones de protection particulières (vignes, gravières, etc.) étaient en outre définies sur le plan d'aménagement et le règlement d'utilisation protégeait notamment les sources, les captages d'eau, les ruisseaux, les points de vue et les sites particuliers (art. 129 ss RU). Cependant, ces derniers points n'ont pas été reportés sur le plan d'aménagement de 1979, qui n'était par ailleurs pas conforme à d'autres principes édictés à l'art. 3 LAT. En effet, ce plan ne prend notamment pas en compte la conservation des sites naturels et des territoires servant au délassement (art. 3 al. 2 let. d LAT), le maintien des forêts (art. 3 al. 2 let. c LAT) ou encore le ménagement d'aires de verdure dans le milieu bâti (art. 3 al. 3 let. e LAT). Par ailleurs, la commune recourante relève à juste titre que la réglementation de 1979 n'apparaît pas entièrement conforme à l'art. 4 LAT, les principes d'information et de participation préconisés par cette disposition n'ayant vraisemblablement pas été mis en oeuvre. En effet, si le règlement d'urbanisme et le plan d'aménagement entrés en vigueur en 1979 ont bien été mis à l'enquête publique en 1976, aucun élément au dossier ne permet de retenir que la population a été dûment renseignée lors de l'établissement du plan en question et qu'elle a pu y participer de manière adéquate. Les éléments susmentionnés ont été pris en considération dans l'élaboration du plan d'urbanisation de 1996, qui apparaît ainsi comme le premier plan conforme aux exigences de la LAT, même si certaines de ces exigences étaient déjà concrétisées dans la réglementation antérieure.
2.2.3 La conformité de l'ancienne réglementation à l'art. 17 LAT, régissant les zones à protéger, est également remise en question par la recourante. Le Tribunal cantonal a estimé qu'il n'y avait pas lieu, lors de l'entrée en vigueur de la LAT, de faire application de l'art. 17 al. 1 let. c LAT, qui inclut dans les zones à protéger les localités typiques, les lieux historiques, les monuments naturels ou culturels. L'art. 17 al. 2 LAT permettait en effet au droit cantonal de prescrire "d'autres mesures adéquates" au lieu de délimiter des zones à protéger. Selon la cour cantonale, la réglementation communale de 1979 prévoyait de telles mesures, le règlement d'urbanisme comportant "toute une série" de règles de police des constructions tendant à la protection des caractéristiques architecturales du hameau et de son style (art. 103 ss RU).
Il est vrai que les "mesures adéquates" au sens de l'art. 17 al. 2 LAT peuvent revêtir les formes les plus variées pour répondre à la diversité des objets et des objectifs; il peut s'agir aussi bien de plans de zones classiques que de normes ne nécessitant pas de plan, ou même de simples décisions (cf. PIERRE MOOR, Commentaire LAT, 2010, n. 80 ss ad art. 17 LAT; BERNHARD WALDMANN/PETER HÄNNI, op. cit., n. 34 ss ad art. 17 LAT). Cela étant, si les art. 103 ss RU comportent effectivement des prescriptions destinées à préserver le caractère architectural et esthétique de la zone d'ancienne localité, on peut se demander si ces règles étaient suffisantes pour protéger notamment le secteur du Vieil Areuse. Comme cela ressort de l'arrêt attaqué, ce hameau est constitué de maisons de maître et de dépendances auxquelles aucune construction n'avait été ajoutée depuis des décennies. Le plan directeur communal mentionne en outre à cet endroit un parc boisé présentant une valeur paysagère élevée. Le législateur communal a d'ailleurs pris en compte ces éléments en améliorant la protection des sites construits "de haute qualité architecturale et historique" (Rapport du Conseil communal du 14 août 1995, annexe 1), ce qui l'a conduit à interdire la construction de nouveaux bâtiments notamment dans le secteur du Vieil Areuse (art. 11.1.6 ch. 1 RAC). Dans ces conditions, le seul fait que les art. 103 ss RU autorisaient théoriquement l'implantation de nouveaux bâtiments dans ce secteur permet de douter du caractère suffisant de la protection conférée par la réglementation de 1979 au regard de l'art. 17 LAT.
2.2.4 S'agissant plus spécifiquement des zones à bâtir, il est douteux que le plan d'aménagement de 1979 soit conforme à l'art. 15 LAT. Ce plan attribuait à diverses "zones habitation" de larges secteurs qui n'étaient à l'évidence pas largement bâtis au sens de l'art. 15 let. a LAT. De plus, le critère de la nécessité à la construction dans les quinze ans à venir (art. 15 let. b LAT) a été appliqué plutôt largement, le rapport du Conseil communal du 20 juin 1978 se référant aux besoins d'une population de 8'000 habitants alors que la commune de Boudry ne comptait guère plus de 5'000 habitants quinze ans plus tard. Les zones d'habitation n'ont d'ailleurs pas été agrandies dans le plan de 1996, la commune ayant estimé qu'elles étaient suffisantes pour accueillir environ 1'000 habitants supplémentaires dans les dix à quinze années suivantes (rapport du Conseil communal de Boudry du 14 août 1995, p. 8). La question de la conformité à l'art. 15 LAT peut cependant demeurer indécise, l'examen global de la réglementation en cause permettant de conclure à sa non-conformité aux exigences de la législation fédérale sur l'aménagement du territoire.
2.2.5 En définitive, c'est à tort que les autorités cantonales ont estimé que le plan d'aménagement communal et le règlement d'urbanisme entrés en vigueur en 1979 étaient déjà conformes à la LAT. Comme cela ressort au demeurant du rapport du Conseil communal du 14 août 2005, le nouveau plan d'urbanisation et le règlement d'aménagement communal entrés en vigueur en 1996 avaient précisément pour but d'adapter la réglementation communale aux prescriptions de la LAT. Ils doivent donc être considérés comme la première mesure d'aménagement conforme au droit fédéral. Par conséquent, conformément à la jurisprudence susmentionnée, il y a lieu de constater que l'interdiction de construire résultant de la réglementation de 1996 ne constitue pas un déclassement, mais un refus de classer ou non-classement.
3. Il reste à examiner si ce non-classement représente un cas d'expropriation matérielle donnant le droit à une indemnisation.
3.1 En principe, un refus de classement ne peut pas fonder le droit à une indemnité pour expropriation matérielle. La jurisprudence reconnaît toutefois des exceptions à ce principe, quand le terrain litigieux est prêt à la construction - ou à tout le moins quand il est déjà raccordé aux installations de l'équipement général -, lorsqu'il se situe à l'intérieur du périmètre du plan directeur des égouts et lorsque son propriétaire a déjà engagé des frais importants pour l'équipement ou la construction; pour qu'une indemnité puisse entrer en considération, il faut en règle générale que ces conditions soient toutes remplies. La jurisprudence retient encore d'autres hypothèses où il faudrait accorder un caractère prépondérant à la protection de la bonne foi du propriétaire concerné et, pour ce motif, considérer que son terrain aurait dû être classé en zone à bâtir, notamment parce qu'il se trouvait dans un secteur largement bâti (<ref-ruling> consid. 2.2 p. 220 s.; <ref-ruling> consid. 4a p. 434; <ref-ruling> consid. 6a p. 333; <ref-ruling> consid. 4b p. 423 s. et les arrêts cités).
3.2 Le jour déterminant pour savoir si l'on se trouve en présence d'une expropriation matérielle est l'entrée en vigueur du nouveau plan de zones (<ref-ruling> consid. 2.4 p. 222), soit en l'espèce le 21 juin 1996. S'il est vrai qu'à cette date la parcelle litigieuse se trouvait dans un secteur déjà desservi par des conduites d'alimentation en eau et en énergie ainsi que d'évacuation des eaux usées, rien n'indique en revanche que ses propriétaires avaient engagé des frais importants pour l'équipement ou la construction sur ce bien-fonds. Les investissements qui peuvent être pris en considération à cet égard sont ceux qui ont effectivement servi à améliorer l'équipement du terrain, afin de préparer objectivement et concrètement la réalisation des constructions; les coûts d'acquisition du terrain, de même que d'autres frais engagés au moment où il existe encore objectivement un risque que la construction ne se réalise pas, ne sauraient être invoqués dans ce cadre (cf. ATF <ref-ruling> consid. 5b p. 437; <ref-ruling> consid. 4a/aa p. 133, 138 consid. 5a p. 146 s.; ENRICO RIVA, op. cit., n. 152 ad art. 5 LAT). Les intimés n'alléguant pas avoir engagé des frais susceptibles d'être pris en considération, l'une des conditions cumulatives fondant le droit à une indemnité pour expropriation matérielle fait défaut.
Les circonstances du cas d'espèce ne justifient pas non plus d'accorder un caractère prépondérant à la protection de la bonne foi, celle-ci n'ayant pas été atteinte par le changement de réglementation en 1996. On peine en effet à considérer que le classement en zone à bâtir des 2'011 m2 litigieux s'imposait d'emblée au motif que cette partie de la parcelle des intimés était intégrée dans un secteur largement bâti au sens de l'art. 15 let. a LAT. Cette portion de terrain se trouve certes dans le secteur du Vieil Areuse, qui comporte une quinzaine de constructions, mais elle ne fait pas véritablement partie de ce qui peut être considéré comme le noyau de ce hameau. Elle est en effet séparée de celui-ci par une petite route et elle se trouve entre deux constructions distantes d'environ 70 m, ce qui n'est pas négligeable à l'échelle du hameau. Le secteur litigieux constitue en outre un espace de verdure relativement important au regard du milieu bâti dans lequel il s'insère, de sorte qu'il ne saurait d'emblée être qualifié de brèche dans le tissu bâti au sens de la jurisprudence relative à l'art. 15 let. a LAT (cf. <ref-ruling> consid. 4.2 p. 223 ss; <ref-ruling> consid. 5a p. 424 et les références). De plus, compte tenu de la valeur du site, il est loin d'être certain que le plan de quartier qui aurait dû être adopté ait permis d'implanter une ou plusieurs constructions à cet endroit précis, les autorités communales ayant exprimé leur souci de préserver les lieux au moins à partir de 1995 (cf. supra consid. 2.2.3). Pour le surplus, les intimés ne font pas valoir que l'attitude des autorités les aurait induits en erreur et ils n'allèguent pas avoir entrepris une quelconque démarche en vue de la construction de leur bien-fonds. En définitive, les conditions prévues par la jurisprudence relative à l'expropriation matérielle en cas de refus de classement ne sont pas remplies, de sorte que les intimés ne peuvent prétendre à aucune indemnité.
4. Il s'ensuit que le recours doit être admis et l'arrêt attaqué annulé. La décision rendue par la Commission d'estimation le 31 octobre 2008 doit également être annulée. Conformément à l'<ref-law>, les frais judiciaires sont mis à la charge des intimés, qui succombent. Ces frais seront toutefois réduits à 1'000 fr. compte tenu des circonstances du cas d'espèce, en particulier l'écoulement du temps depuis l'introduction de la procédure d'estimation. Il n'est pas alloué de dépens à la commune recourante (<ref-law>). Il y a encore lieu de statuer sur les frais et dépens de la procédure antérieure (art. 67 et 68 al. 5 LTF). En vertu de l'art. 48 al. 1 de la loi cantonale sur la procédure et la juridiction administratives (LPJA; RSN 152.130), la commune ne peut pas prétendre à des dépens devant l'autorité de recours. Il en va de même en ce qui concerne la procédure de la Commission d'estimation, la commune n'ayant pas conclu à l'octroi de dépens devant cette instance. En revanche, les intimés doivent s'acquitter des frais de procédure, arrêtés à 1'000 fr. pour le Tribunal cantonal et à 980 fr. pour la Commission d'estimation.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis. L'arrêt attaqué est annulé, de même que la décision rendue par la Commission d'estimation en matière d'expropriation du canton de Neuchâtel le 31 octobre 2008.
2. Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge des intimés.
3. Il n'est pas alloué de dépens.
4. Les frais de la procédure devant le Tribunal cantonal, arrêtés à 1'000 fr., et ceux de la procédure devant la Commission d'estimation, arrêtés à 980 fr., sont mis à la charge des intimés.
5. Le présent arrêt est communiqué aux mandataires des parties, à la Commission d'estimation en matière d'expropriation pour cause d'utilité publique et au Tribunal cantonal du canton de Neuchâtel ainsi qu'à l'Office fédéral du développement territorial.
Lausanne, le 15 août 2012
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
Le Greffier: Rittener