Faits:
A. A.a C._, né en 1930, a été placé sous tutelle volontaire par décision du 24 octobre 1996. Cette mesure a été prononcée sur la base d'une expertise réalisée le 18 septembre 1996 par le Dr D._ tendant à évaluer la capacité de discernement de C._ par rapport à une vente conditionnelle d'immeuble conclue en 1991 avec l'une de ses s?urs, E._, et concluant que C._ souffrait de troubles équivalant à une faiblesse d'esprit au sens de l'art. 369 CC le rendant incapable de gérer ses affaires.
A.b C._ a rédigé deux testaments olographes, les 3 septembre 1991 et 9 octobre 1996.
Le 19 avril 2005, il a fait instrumenter par devant le notaire F._ un testament authentique, dans lequel il a déclaré ce qui suit:
«
1. Je révoque toutes dispositions de dernière volonté
prises antérieurement aux présentes.
2. Je déclare instituer en qualité de seule héritière de tous mes biens la Fondation B._ à X._.
3. Dans la mesure où le présent testament pourrait être contesté par mes héritiers légaux au motif de mon incapacité de tester, je souhaite que soit annexé au présent acte le rapport, daté du 6 avril 2005, du Centre de psychiatrie gériatrique de l'Hôpital psychiatrique cantonal de G._, à H._, signé par le Dr I._, médecin chef CPG, qui atteste en conclusion de mes capacités de disposer pour cause de mort.
Exécuteur testamentaire:
Je nomme en qualité d'exécuteur testamentaire de ma succession Me F._, notaire à J._.
»
A.c C._ est décédé à M._ le 27 décembre [recte: 26 novembre] 2007. Ses héritiers légaux sont ses quatre frère et s?urs: N._, L._, E._ et A._.
B. Par demande du 15 décembre 2008, E._ et A._ ont ouvert action contre la Fondation B._ "en constatation de la nullité du testament authentique" de leur frère, se prévalant de l'expertise psychiatrique du Dr D._ du 18 septembre 1996 concluant que C._ souffrait de troubles équivalant à une faiblesse d'esprit au sens de l'art. 369 CC.
B.a Par jugement du 3 octobre 2011, la Ière Cour civile du Tribunal cantonal du canton de Neuchâtel (ci-après: la Cour civile) a rejeté la demande.
B.b Statuant le 17 avril 2012, la Cour d'appel civile du Tribunal cantonal du canton de Neuchâtel (ci-après: la Cour d'appel) a rejeté l'appel interjeté par E._ et A._, qui soutenaient que l'incapacité de discernement de leur frère était présumée au moment de l'établissement de l'acte litigieux.
C. Par acte du 21 mai 2012, A._ (ci-après: la recourante) exerce un recours en matière civile au Tribunal fédéral. Elle conclut à l'annulation de l'arrêt entrepris et à sa réforme en ce sens que la nullité du testament authentique du 19 avril 2005 de feu C._ est constatée. A l'appui de ses conclusions, elle se plaint de l'établissement manifestement inexact des faits, de l'appréciation arbitraire des preuves, et de la violation des art. 16, 467 et 519 al. 1 ch. 1 CC. Préalablement, elle sollicite l'octroi de l'effet suspensif à son recours.
Invitées à se déterminer sur la requête d'effet suspensif, l'intimée et la Cour d'appel ont conclu au rejet de celle-ci, faute de motivation.
D. Par ordonnance du 15 juin 2012, la Juge présidant de la IIe Cour de droit civil du Tribunal fédéral a refusé d'octroyer le bénéfice de l'effet suspensif au recours.
Des réponses au fond n'ont pas été requises.
Considérant en droit:
1. Le présent recours en matière civile a été interjeté contre l'arrêt confirmant le rejet de l'action en nullité d'un testament authentique, à savoir contre une décision finale (art. 90 LTF) rendue sur recours par une autorité supérieure statuant en dernière instance cantonale (art. 75 al. 1 et 2 LTF), en matière civile (art. 72 al. 1 LTF) et dans une affaire pécuniaire dont la valeur litigieuse excède le seuil minimal de 30'000 fr. (art. 74 al. 1 let. b LTF). Il a par ailleurs été déposé en temps utile (art. 100 al. 1 LTF) et dans la forme prévue par la loi (art. 42 LTF), par l'une des parties ayant succombé devant l'autorité précédente et ayant un intérêt digne de protection à la modification ou à l'annulation de l'arrêt entrepris (art. 76 al. 1 LTF); le recours en matière civile est ainsi recevable au regard de ces dispositions.
2. 2.1 Le recours en matière civile peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Cela étant, eu égard à l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (art. 108 al. 1 let. b LTF), il n'examine en principe que les griefs soulevés; il n'est pas tenu de traiter, à l'instar d'une autorité de première instance, toutes les questions juridiques pouvant se poser, lorsque celles-ci ne sont plus discutées devant lui (ATF 135 III 397 consid. 1.4 p. 400; 134 III 102 consid. 1.1 p. 104). En outre, le Tribunal fédéral ne connaît de la violation de droits fondamentaux que si un tel grief a été invoqué et motivé par le recourant conformément au principe d'allégation ("Rügeprinzip", art. 106 al. 2 LTF; ATF 137 II 305 consid. 3.3 p. 310 s.; 134 I 83 consid. 3.2 p. 88), c'est-à-dire s'ils ont été expressément soulevés et exposés de façon claire et détaillée (ATF 135 III 232 consid. 1.2 p. 234; 133 II 249 consid. 1.4.2 p. 254). Le Tribunal fédéral n'entre pas en matière sur les critiques de nature appellatoire (ATF 133 II 396 consid. 3.1 p. 399 in fine).
2.2 Saisi d'un recours en matière civile, le Tribunal fédéral conduit son raisonnement sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si les constatations de fait ont été établies de façon manifestement inexacte - notion qui correspond à l'arbitraire au sens de l'art. 9 Cst. (ATF 135 II 145 consid. 8.1 p. 153; 135 III 127 consid. 1.5 p. 130, 397 consid. 1.5 p. 401) - ou en violation du droit au sens de l'art. 95 LTF (art. 97 al. 1 LTF), et pour autant que la correction du vice soit susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF). Les faits et moyens de preuve nouveaux sont prohibés, à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF).
3. Le recours a pour objet la capacité de discernement de feu C._ au moment de l'établissement de son testament authentique le 19 avril 2005, singulièrement à la lumière des expertises psychiatriques que celui-ci avait subies.
3.1 Dans son arrêt, la Cour d'appel a d'emblée rappelé qu'au moment d'examiner si une présomption doit être renversée, il ne s'agit pas encore de soupeser les particularités du cas d'espèce, mais de s'en tenir aux caractéristiques objectives qu'il présente. A cet égard, elle a constaté que le disposant ne présentait aucun trait de personnalité ni de capacité mentale le rendant, a priori, incapable «d'agir raisonnablement»; sa mise sous tutelle n'est pas décisive à elle seule et les circonstances dans lesquelles il a souhaité prendre des dispositions à cause de mort en août 2005 ne dénotaient aucun affaiblissement de ses facultés mentales dues à l'âge ou à la maladie. L'autorité cantonale en a déduit que, selon l'expérience générale de la vie, le défunt ne devait pas être présumé incapable de discernement de manière générale, en sorte qu'il appartenait aux demanderesses et appelantes de prouver l'incapacité de discernement qu'elles alléguaient, partant que les expertises psychiatriques du disposant devaient être examinées dans ce contexte.
3.2 L'autorité précédente a ensuite examiné l'expertise réalisée le 18 septembre 1996 par le Dr D._, qui concluait à des troubles équivalant à une faiblesse d'esprit au sens de l'art. 369 CC, lesquels rendaient feu C._ incapable de gérer ses affaires, celui-ci ne réalisant pas les implications abstraites et à long terme de ses engagements, en dépit de sa bonne intelligence en ce qui concerne le concret. La Cour d'appel a rappelé que l'interdiction de feu C._ avait été prononcée sur cette base et que cette mesure avait perduré jusqu'au décès de celui-ci. Elle a cependant indiqué que l'expertise du Dr D._ évaluait la capacité de discernement de feu C._ par rapport à une vente conditionnelle d'immeuble conclue avec sa s?ur E._, dont la complexité n'était en rien comparable avec le testament authentique du 19 avril 2005, les implications du dernier acte étant "beaucoup plus faciles à saisir". L'autorité cantonale a ajouté que la comparaison faite par l'expert D._ entre le disposant et "un enfant de 8 à 10 ans" devait être relativisée, le Dr D._ soulignant lui-même que la notion d'âge mental était critiquée et l'intéressé ayant accompli toute sa scolarité obligatoire sans redoubler. La Cour d'appel a en outre précisé que le trouble dominant relevé par l'expert D._ consistait en un mécanisme privilégiant l'obéissance face à son interlocuteur, alors que cette prédisposition n'a vraisemblablement joué aucun rôle au moment d'établir un acte unilatéral, tel un testament.
S'agissant de l'expertise du Dr I._ réalisée à la demande du notaire, la cour cantonale a souligné que, en dépit de sa brièveté, elle se fonde sur deux rencontres avec l'intéressé en mars et avril 2005 et aboutit à un constat catégorique quant au discernement de feu C._ pour prendre des dispositions à cause de mort, celui-ci ayant "les capacités d'apprécier le sens, l'opportunité et les effets d'une disposition testamentaire" et ayant "la faculté d'agir en fonction de cette compréhension raisonnablement selon sa libre volonté". La cour cantonale a aussi relevé que le Dr I._, qui n'était pas engagé dans une relation thérapeutique avec feu C._ le retenant d'exprimer un avis objectif et qui avait été informé au préalable du résultat de l'expertise du Dr D._, a non seulement exclu un affaiblissement sénile mais a aussi relevé l'absence d'éléments psychotiques.
Concernant la pondération des deux expertises, la Cour d'appel a estimé que la distinction entre expertise privée et judiciaire - opérée par les appelantes - était hors de propos, l'expertise du Dr D._ n'ayant pas été requise en tant que preuve dans un procès civil, a fortiori dans le cadre du présent litige qui lui est postérieur d'une décennie, mais par une autorité tutélaire laquelle avait au demeurant précisé que l'intéressé gérait librement son budget mensuel et demeurait consulté au sujet des transactions relatives aux parcelles de son domaine.
3.3 L'autorité cantonale a enfin relevé que le choix de feu C._ d'instituer héritière de ses biens une fondation hospitalière n'était pas surprenant, vu les relations - dont rien n'indique qu'elles aient été régulières ou chaleureuses - entretenues avec ses frère et s?urs et la reconnaissance qu'il pouvait éprouver à l'égard de la fondation intimée; bien qu'il gardât une méfiance pour les "blouses blanches", il avait subi une opération des deux hanches à l'hôpital de X._ en automne 1997, laquelle s'était bien déroulée et lui avait permis de retrouver sa mobilité. Finalement, la Cour d'appel a constaté que le dossier ne contenait aucun indice que les dispositions à cause de mort de feu C._ auraient été influencées par sa tutrice, le dossier de l'autorité tutélaire mentionnant que celle-ci a rempli scrupuleusement son mandat durant de longues années.
3.4 L'autorité précédente a donc rejeté l'appel et confirmé le jugement de première instance déclarant le disposant capable de discernement, partant, le testament authentique valable à la forme.
4. Les constatations relatives à l'état de santé mentale d'une personne, la nature et l'importance d'éventuels troubles de l'activité de l'esprit, le fait que la personne concernée pouvait se rendre compte des conséquences de ses actes et pouvait opposer sa propre volonté aux personnes cherchant à l'influencer, ainsi que l'état dans lequel une personne se trouvait lorsqu'elle a accompli un acte particulier relèvent de l'établissement des faits. En revanche, la conclusion que le juge en a tirée quant à l'application de l'une ou l'autre des présomptions de capacité ou d'incapacité de discernement, autrement dit, la subsomption, relève du droit et le Tribunal fédéral la revoit librement (ATF 124 III 5 consid. 4 p. 13 ss; 117 II 231 consid. 2c p. 235; arrêt 5A_436/2011 du 12 avril 2012 consid. 5.2.3). Il en va de même de la déduction d'un intervalle de lucidité, qui n'est rien d'autre qu'une récupération momentanée de capacité de discernement perdue (arrêts précités 5A_436/2011 consid. 5.2.3; 5A_723/2008 consid. 2.3).
5. La recourante fait premièrement valoir que l'autorité précédente a constaté les faits pertinents et apprécié les preuves de manière manifestement inexacte. Elle soutient que les juges précédents n'ont pas examiné toutes les circonstances de fait, en particulier qu'ils n'ont pas tenu compte de l'absence de mainlevée de la mesure tutélaire à la suite du rapport du Dr I._, des interventions surprenantes du magistrat et du notaire, ainsi que des circonstances dans lesquelles feu C._ a soudainement souhaité disposer à cause de mort. La recourante indique également que la Cour d'appel n'a pas examiné la "hautement surprenant[e]" amélioration en dix ans de l'état de santé du disposant âgé de 75 ans au moment de la rédaction du testament. La recourante critique en outre la manière dont le rapport d'expertise du Dr I._, établi à la demande expresse du notaire, a été apprécié par les juges précédents, spécialement au regard de la précédente expertise réalisée par le Dr D._, ordonnée en toute indépendance par une autorité judiciaire et dont les considérations peuvent être transposées dans le contexte successoral. Elle estime enfin que le rapport du Dr I._ ne satisfait pas aux exigences posées par la jurisprudence (arrêt "C-7146/2009") relatives à la force probante d'une expertise médicale, partant que cette preuve n'est pas probante. En tout état de cause, la recourante soutient que l'expertise du Dr I._ doit être écartée au profit de celle du Dr D._.
5.1 Le juge apprécie librement la force probante d'une expertise. L'expert doit limiter son examen aux points de fait; la résolution des questions de droit ressortit exclusivement au juge, qui ne peut pas déléguer cet examen à un tiers (ATF 130 I 337 consid. 5.4.1 p. 345; 113 II 429 consid. 3a p. 432). Le Tribunal fédéral se montre réservé en matière de constatations de fait et d'appréciation des preuves, vu le large pouvoir qu'il reconnaît en ce domaine aux autorités cantonales (ATF 120 Ia 31 consid. 4b p. 40; 104 Ia 381 consid. 9 p. 399 et les arrêts cités). Il n'intervient que si l'expertise est entachée de défauts à ce point évidents et reconnaissables que, même sans connaissances spécifiques, le juge ne pouvait tout simplement pas les ignorer (arrêts 5A_676/2010 du 13 décembre 2011 consid. 3.2.3; 5A_831/2010 du 14 novembre 2011 consid. 2.1) et si le juge du fait n'a manifestement pas compris le sens et la portée d'un moyen de preuve, s'il a omis sans raisons objectives de tenir compte des preuves pertinentes ou s'il a effectué, sur la base des éléments recueillis, des déductions insoutenables (ATF 136 III 552 consid. 4.2 p. 560; 134 V 53 consid. 4.3 p. 62; 133 II 249 consid. 1.4.3 p. 254 s.; 129 I 8 consid. 2.1 p. 9).
5.2 S'agissant de la prétendue amélioration de l'état de santé du disposant au cours de la dernière décennie, ce fait ne ressort pas de l'arrêt attaqué, les juges précédents se limitant à constater que l'établissement d'un testament authentique contenant une institution d'héritier unique est considérablement plus simple à comprendre que la vente conditionnelle de parcelles d'un domaine. Le raisonnement de l'autorité précédente ne postulant aucune amélioration de l'état de santé du disposant, ce fait, que la recourante ne démontre par ailleurs pas, doit être qualifié de nouveau. A cet égard, la critique est ainsi irrecevable (art. 99 al. 1 LTF, cf. supra consid. 2.2). Au surplus, la recourante se méprend lorsqu'elle affirme que la Cour d'appel n'a pas pris en considération l'existence d'une mesure tutélaire, les circonstances dans lesquelles l'expertise du Dr I._ a été requise et dans lesquelles le disposant a souhaité disposer à cause de mort. La Cour d'appel a longuement exposé la manière dont elle appréciait les deux expertises psychiatriques du disposant, d'abord pour elles-mêmes puis l'une par rapport à l'autre, en expliquant les critères sur lesquels elle s'est basée et ceux qu'elle a jugés non pertinents, notamment la distinction entre expertise privée et judiciaire à laquelle la recourante faisait référence. Quant à la valeur probante de l'expertise du Dr I._, celle-ci ne paraît pas manifestement incomplète, dès lors qu'elle expose, en fonction de l'acte envisagé, l'état de santé mentale du disposant, le fait que celui-ci se rendait compte de la portée et des conséquences de son acte à cause de mort et les motifs l'ayant conduit à instituer héritière la fondation intimée. C'est ainsi à juste titre que l'expert ne s'est pas prononcé sur des questions de droit (cf. supra consid. 4). La recourante se prévaut d'ailleurs en vain de la jurisprudence du Tribunal fédéral sur la validité d'une expertise médicale - vraisemblablement de l'arrêt 9C_146/2009 -, dès lors que cet arrêt a été rendu en matière d'assurance-invalidité, en application de la procédure administrative (ATF 125 V 351 consid. 3 p. 252 ss; arrêt 9C_146/2009 du 29 avril 2009 consid. 2.2). Après avoir constaté, en fait, le raisonnement du premier juge, duquel il ressort que l'expertise du Dr I._ avait été réalisée spécialement dans la perspective de l'acte litigieux, à l'époque de l'établissement de celui-ci et par un expert indépendant informé du résultat de l'expertise précédente, partant que le deuxième rapport était la preuve la plus pertinente s'agissant de déterminer si la personne concernée avait accompli l'acte litigieux en jouissant de sa lucidité, les juges cantonaux ont constaté que ce jugement ne prêtait pas le flanc à la critique. Le raisonnement relatif à la pondération des expertises effectué par l'autorité de première instance - adopté par la cour précédente qui l'a fait sien - ne saurait être qualifié d'arbitraire; au demeurant, la recourante ne l'établit pas. Le grief de constatation manifestement inexacte des faits et d'appréciation arbitraire des preuves (art. 9 Cst.) est mal fondé, dans la mesure où il est recevable.
6. La recourante reproche deuxièmement à la Cour d'appel civile d'avoir violé les art. 16, 467 et 519 CC. Elle soutient que le testament authentique doit être annulé car le disposant était durablement incapable de discernement au moment où celui-ci a disposé à cause de mort. La recourante expose que, dans le cadre d'un litige ayant opposé le disposant à sa s?ur E._, relatif à une vente conditionnelle d'immeuble, feu C._ avait fait l'objet d'une expertise psychiatrique mise en ?uvre par le Dr D._ et à la suite de laquelle son frère avait été placé sous tutelle. La recourante affirme ainsi que feu son frère était, selon une vraisemblance prépondérante, dépourvu de discernement et qu'il appartenait à la fondation intimée qui se prévaut de la validité du testament d'établir que le disposant a accompli l'acte litigieux dans un moment de lucidité. Elle rappelle que la mesure tutélaire n'a jamais été remise en cause, malgré le contenu du rapport d'expertise du Dr I._ et considère par ailleurs que ce rapport a été annexé au testament authentique précisément parce qu'il était hautement vraisemblable que le disposant n'avait pas, à cette époque, la capacité de discernement, autrement dit, afin de renverser cette présomption. La recourante expose enfin que, même s'il lui avait appartenu de prouver l'incapacité de discernement de feu son frère, l'expertise du Dr D._ démontre que le disposant n'avait pas la capacité de discernement nécessaire à l'établissement d'un testament authentique.
6.1 Pour être valable, un testament ne peut être rédigé que par une personne capable de discernement (art. 467 CC). Est capable de discernement toute personne qui n'est pas privée de la faculté d'agir raisonnablement par suite de maladie mentale ou de faiblesse d'esprit (art. 16 CC). A teneur de l'art. 19 al. 2 CC, les interdits capables de discernement peuvent s'obliger par leurs propres actes pour exercer leurs droits strictement personnels (arrêt 2A.35/2006 du 31 mai 2006 consid. 2.3). Une disposition pour cause de mort faite par une personne incapable de disposer au moment de l'acte peut être annulée (art. 519 al. 1 ch. 1 CC).
6.1.1 La notion de capacité de discernement contient deux éléments: d'une part, une composante intellectuelle, soit la capacité de reconnaître le sens, l'opportunité et les effets d'un acte précis et, d'autre part, une composante volitive, qui est également en rapport avec le caractère de la personne, soit sa capacité d'agir librement en fonction d'une compréhension raisonnable et de pouvoir opposer une résistance suffisante à d'éventuelles influences extérieures. La capacité de discernement doit être comprise de manière relative: elle ne doit pas être appréciée dans l'abstrait, mais concrètement, par rapport à un acte déterminé, en fonction de sa nature et de son importance (ESCHER, Zürcher Kommentar, 1959, n° 6 ad art. 467 CC). On peut donc imaginer qu'une personne dont la capacité de discernement est généralement réduite puisse tout de même exercer certaines tâches quotidiennes et soit capable de discernement pour les actes qui s'y rapportent; pour des affaires plus complexes, en revanche, on pourra dénier sa capacité de discernement. La rédaction d'un testament compte parmi les actes les plus exigeants, surtout s'il s'agit de dispositions compliquées (ATF 124 III 5 consid. 1a p. 7 s. et les références citées; arrêt 5A_723/2008 du 19 janvier 2009 consid. 2.1). Pour juger de la capacité de discernement, il ne faut cependant pas se demander si les dispositions prises sont sages, justifiées au vu des circonstances, ou simplement équitables; une disposition absurde peut tout au plus être tenue pour un indice d'un défaut de discernement (ATF 117 II 231 consid. 2a p. 233; 124 III 5 consid. 4c/cc p. 17 ss; ESCHER, op. cit., n° 5 ad art. 467 CC; STEINAUER, Le droit des successions, 2006, n. 311; WEIMAR, Berner Kommentar, 2009, n° 9 ad art. 467 CC). La capacité de disposer pour cause de mort doit donc exister eu égard à l'acte en question et au moment où il est accompli.
6.1.2 La capacité de discernement est la règle; elle est présumée d'après l'expérience générale de la vie. Partant, il incombe à celui qui prétend qu'elle fait défaut de le prouver. Une très grande vraisemblance excluant tout doute sérieux suffit, en particulier quand il s'agit d'une personne décédée, car la situation rend alors impossible une preuve absolue (ATF 130 III 321 consid. 3.3 p. 325; 117 II 231 consid. 2b p. 234 s.). Lorsqu'une personne est atteinte de faiblesse d'esprit, en particulier due à l'âge, ou de maladie mentale, l'expérience générale de la vie amène à présumer le contraire, à savoir l'absence de discernement. La contre-preuve en incombe à celui qui se prévaut de la validité du testament; il devra établir que la faculté d'agir raisonnablement existait malgré la cause d'altération, en montrant que la personne concernée a accompli l'acte litigieux dans un moment de lucidité. Cette contre-preuve étant difficile à rapporter, la jurisprudence facilite la preuve: il suffit de prouver que la personne concernée, malgré une incapacité générale de discernement au vu de son état de santé, était au moment déterminant capable de discernement avec une vraisemblance prépondérante (ATF 124 III 5 consid. 1b p. 8; arrêts 5A_436/2011 du 12 avril 2012 consid. 5.2.2; 5A_727/2009 du 5 février 2010 consid. 2.1; 5A_723/2008 du 19 janvier 2009 consid. 2.3; 5A_204/2007 du 16 octobre 2007 consid. 5.2). L'incapacité de discernement n'est présumée que dans le cas où le disposant se trouvait, au moment où il a rédigé les dispositions en cause, dans un état durable de dégradation des facultés de l'esprit liée à la maladie ou l'âge. Dans le cas d'un disposant incapable de discernement avant ou après cette date décisive, il faut qu'on puisse en déduire l'état mental du testateur lorsqu'il a rédigé ses dispositions. En revanche, l'incapacité de discernement n'est pas présumée et doit être établie, selon la vraisemblance prépondérante, lorsque le disposant, dans un âge avancé, est impotent, atteint dans sa santé physique et temporairement confus ou souffre uniquement d'absences à la suite d'une attaque cérébrale ou encore est confronté à des trous de mémoire liés à l'âge (arrêt 5A_12/2009 du 25 mars 2009 consid. 2.2 et les références citées).
6.1.3 L'existence d'une mesure tutélaire prononcée en faveur du testateur n'exclut pas d'emblée toute capacité de discernement du pupille pour disposer à cause de mort, tout au plus s'agit-il d'un indice permettant de prouver les faits retenus dans le prononcé d'interdiction (arrêt 5A_727/2009 du 5 février 2010 consid. 3.2 avec les références; SCHRÖDER, Erbrecht, Praxiskommentar, 2ème éd., 2011, n° 12 ad art. 467 CC; BREITSCHMID, Basler Kommentar ZGB II, 4ème éd., 2011, n° 4 ad art. 467/468 CC; PAUL PIOTET, Traité de droit privé suisse, Droit successoral, tome IV, 1975, § 34 p. 198).
6.1.4 Dans le cadre spécifique de l'établissement d'un testament authentique, le juge n'est lié ni par les attestations des témoins qui certifient que le testateur leur a paru capable de disposer (art. 501 al. 2 CC), lesquelles constituent simplement un indice en faveur de la capacité de discernement (arrêt 5C.282/2006 du 2 juillet 2007 consid. 2.3), ni par les déclarations de l'officier public instrumentant l'acte (ATF 124 III 5 consid. 1 p. 7 à 9).
6.2 La question à résoudre est, dès lors, de savoir si feu C._, qui était interdit, n'était pas privé de la faculté d'agir raisonnablement et libre de toute influence de tiers, en considération du testament litigieux au moment où cet acte a été dressé (ATF 117 II 231 consid. 2a p. 233; arrêt 5C.232/1993 du 23 juin 1994 consid. 4a).
En l'espèce, il ressort du dossier de la cause que, à l'époque de l'établissement du testament litigieux, le disposant se trouvait sous tutelle depuis près de dix ans pour cause de troubles "équival[a]nt à une faiblesse d'esprit au sens de l'art. 369 CCS" qui consistaient en "un mécanisme privilégiant l'obéissance face à son interlocuteur", lesquels l'empêchaient de diriger ses affaires, bien qu'il continuât à gérer seul son budget mensuel et à être consulté quant aux transactions relatives à des parcelles de son domaine (cf. supra consid. 3.1 et 3.2). Aucun des experts n'a cependant constaté de maladie mentale. Il s'ensuit qu'une seule faiblesse d'esprit, constatée dans le contexte d'une vente conditionnelle d'immeuble qualifiée de complexe, n'entravant pas la gestion courante des biens, ne constitue pas une circonstance suffisante à elle seule justifiant de renverser la présomption de discernement. La capacité de discernement de feu C._ doit en conséquence être présumée et il appartenait donc aux demanderesses de prouver, à tout le moins de rendre vraisemblable en excluant tout doute sérieux, l'absence de discernement (cf. supra consid. 6.1.2).
Le contenu du testament authentique litigieux est relativement simple et n'apparaît pas déraisonnable, compte tenu des relations entre le disposant et ses héritiers légaux; il n'est pas aberrant que feu C._ ait voulu transmettre sa succession à une institution lui ayant fourni de bons soins médicaux par le passé, plutôt qu'à sa fratrie à une partie de laquelle il s'est retrouvé opposé dans plusieurs procès, quand bien même il n'éprouvait pas de sympathie pour le milieu hospitalier. De surcroît, il n'est pas établi et la recourante ne le démontre pas, que le disposant aurait subi des pressions propres à entraver sa libre volonté, notamment de la part de sa tutrice ou du magistrat ayant pris contact avec le notaire. Il apparaît au contraire - et la recourante ne le critique pas -, que la tutrice a effectué scrupuleusement son mandat durant près de dix ans. Quant à l'intervention du magistrat, elle n'a aucune incidence sur la libre expression de la volonté puisqu'il ressort de l'arrêt attaqué que le Président du Tribunal de district, informé du fait que feu C._ avait décidé de prendre des dispositions à cause de mort, a uniquement mis en contact le notaire et le disposant, au cours de l'année 2004. Par surabondance, il ne ressort pas de l'arrêt que les témoins nécessaires à l'établissement d'un testament en la forme authentique aient douté de la capacité de discernement ou de la libre volonté du testateur (cf. supra consid. 6.1.4). Enfin, l'expertise du Dr I._, spécialement effectuée par un médecin indépendant pour apprécier le contexte dans lequel feu C._ souhaitait tester, conclut à la capacité de discernement du disposant précisément en relation avec l'acte considéré. Vu ce qui précède, les indices à disposition ne permettent pas de retenir que le disposant était, en avril 2005, incapable du discernement permettant de conclure un testament authentique; à tout le moins, la recourante ne parvient pas à démontrer, avec une vraisemblance prépondérante, que tel aurait été le cas, la mesure tutélaire prononcée sur la base du rapport du Dr D._ n'étant pas pertinente dans ce contexte par rapport aux autres éléments retenus. Il s'ensuit que le disposant interdit mais capable de discernement pouvait valablement disposer unilatéralement à cause de mort (art. 19 al. 2 et 467 CC, cf. supra consid. 6.1). La Cour d'appel n'a dès lors pas violé le droit fédéral en confirmant la validité du testament authentique, partant en rejetant l'action en nullité. Le grief de violation du droit fédéral est en conséquence mal fondé.
7. Vu ce qui précède, le recours doit être rejeté dans la mesure de sa recevabilité. Les frais judiciaires seront mis à la charge de la recourante qui succombe (art. 66 al. 1 LTF). Elle versera en outre une indemnité de dépens à l'intimée, laquelle s'est déterminée sur la requête d'effet suspensif et a eu gain de cause à cet égard (art. 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 4'000 fr., sont mis à la charge de la recourante.
3. La recourante versera à l'intimée une indemnité de 200 fr., à titre de dépens.
4. Le présent arrêt est communiqué aux parties et à la Cour d'appel civile du Tribunal cantonal du canton de Neuchâtel.
Lausanne, le 13 septembre 2012
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Hohl
La Greffière: Carlin