Faits:
A. En vue de conclure un contrat d'assurance-maladie avec Z._ SA, X._ a rempli deux questionnaires de santé, les 18 mai et 7 juin 2004. Il ressort des réponses à ces questionnaires que le proposant niait souffrir du diabète, avoir été opéré ou traité par rayons, avoir séjourné dans un hôpital ou encore qu'il y ait eu, dans sa famille proche des cas, notamment, de diabète et de maladies du coeur. Il a également déclaré n'avoir pas consulté un médecin au cours des cinq années précédentes et n'avoir pas été en incapacité de travail plus de quatre semaines pendant la même période.
S'étant renseigné auprès du médecin traitant du proposant, l'assureur a appris, en juillet 2004, que ce dernier avait eu un infarctus fin 1999, avait été opéré d'une hernie en 1998 et présentait une surcharge pondérale. Au vu de ces informations, l'assureur a décidé, au moment de conclure le contrat d'assurance, d'exclure toute prestation en cas d'incapacité de travail due à une affection cardiaque ou respiratoire.
Dès le mois d'août 2005, X._ s'est trouvé dans l'incapacité de travailler en raison de douleurs aux jambes, ce qu'il communiqua à l'assureur le 14 novembre 2005.
A la demande de l'assureur, le médecin traitant délivra le 22 novembre 2005 un certificat dont il ressort que l'assuré souffre de diabète depuis l'automne 2004, qu'il a été hospitalisé neuf jours en fin d'année 2004 et qu'il a été en arrêt de travail quatre fois en 2005. Etait joint à ce certificat un rapport daté du 31 janvier 2005 émanant de l'Hôpital A._, qui faisait état d'un diabète, de trois opérations et d'antécédents familiaux pour le diabète.
Par courrier du 8 décembre 2005 adressé à X._, l'assureur invoqua une réticence au sens de l'<ref-law> et déclara résoudre le contrat d'assurance en application de l'<ref-law>.
L'assuré a contesté que les conditions légales d'une réticence soient remplies.
B. Le 20 décembre 2006, X._ a ouvert action contre Z._ SA auprès des tribunaux neuchâtelois, concluant à ce que l'assureur soit condamné à lui payer la somme de 110'000 fr. avec intérêts à 5 % dès le 25 août 2005.
L'assureur a conclu au rejet de la demande.
Par jugement du 25 mai 2011, la Cour civile du Tribunal cantonal neuchâtelois a rejeté la demande avec suite de frais et dépens.
Saisie d'un appel formé par l'assuré, la Cour d'appel civile du Tribunal cantonal neuchâtelois, par arrêt du 14 mai 2012, a rejeté l'appel avec suite de frais et dépens.
C. X._ exerce un recours en matière civile au Tribunal fédéral contre l'arrêt cantonal du 14 mai 2012. Invoquant une appréciation arbitraire des preuves ayant conduit à une violation du droit fédéral, il conclut, sous suite de frais et dépens, à l'annulation de l'arrêt attaqué, au constat qu'il n'a pas commis de réticence, que les réticences invoquées l'ont été tardivement, que la police d'assurance était valable au moment de la survenance du risque et demande en conséquence que sa partie adverse soit condamnée à lui payer la somme de 110'000 fr. avec intérêts à 5 % dès le 25 août 2005; subsidiairement, il requiert le renvoi de la cause à la cour cantonale pour nouvelle décision.
L'assureur a conclu au rejet du recours dans la mesure où il est recevable avec suite de frais et dépens.

Considérant en droit:
1. Interjeté par la partie qui a succombé dans ses conclusions en paiement et qui a donc qualité pour recourir (<ref-law>), dirigé contre un arrêt final (<ref-law>) rendu en matière civile (<ref-law>) par un tribunal supérieur statuant sur recours en dernière instance cantonale (<ref-law>) dans une affaire pécuniaire dont la valeur litigieuse atteint le seuil de 30'000 fr. (<ref-law>), le recours est recevable, puisqu'il a été déposé dans le délai (art. 48 al. 1 et 100 al. 1 LTF) et la forme (<ref-law>) prévus par la loi.
2. 2.1 L'objet du litige est de savoir si le contrat d'assurance conclu entre les parties, qui relève de la loi sur le contrat d'assurance du 2 avril 1908 (LCA; RS 221.229.1), a été valablement résilié par l'assureur pour cause de réticence.
En premier lieu, il faut rappeler les conditions générales d'une résiliation pour cause de réticence.
Selon l'<ref-law>, le proposant doit déclarer par écrit à l'assureur suivant un questionnaire ou en réponse à toutes autres questions écrites, tous les faits qui sont importants pour l'appréciation du risque. Les faits qu'il faut déclarer sont non seulement ceux qui peuvent constituer une cause de risque, mais aussi ceux qui permettent de supposer l'existence d'une cause de risque; le preneur n'a en revanche pas à annoncer des faits au sujet desquels il n'est pas interrogé (<ref-ruling> consid. 3.3.2 p. 513). La question posée par l'assureur doit être formulée par écrit et elle doit être rédigée de manière précise et non équivoque (<ref-ruling> consid. 2.3 p. 336; <ref-ruling> consid. 3.3.4 p. 515). Le proposant doit répondre de manière véridique aux questions telles qu'il peut les comprendre de bonne foi; on ne saurait dire qu'il y a réponse inexacte si la question était ambiguë de telle sorte que la réponse donnée apparaît véridique selon la manière dont la question pouvait être comprise de bonne foi par le proposant (<ref-ruling> consid. 2.3 p. 336 s.).
Pour qu'il y ait réticence, il faut, d'un point de vue objectif, que la réponse donnée à la question ne soit pas conforme à la vérité, par omission ou inexactitude; la réticence peut consister à affirmer un fait faux, à taire un fait vrai ou à présenter une vision déformée de la vérité (<ref-ruling> consid. 2.3 p. 337). D'un point de vue subjectif, la réticence suppose que le proposant connaissait ou aurait dû connaître la vérité (cf. art. 4 al. 1 et 6 al. 1 LCA). Le proposant doit déclarer non seulement les faits qui lui sont connus sans autre réflexion, mais aussi ceux qui ne peuvent lui échapper s'il réfléchit sérieusement à la question posée (<ref-ruling> consid. 2.3 p. 337; <ref-ruling> consid. 3.3.3 p. 514).
De son côté, l'assureur doit examiner avec diligence et esprit critique les réponses qu'il reçoit, faute de quoi il s'expose à ne pas pouvoir invoquer la réticence (cf. art. 8 ch. 3 et 4 LCA). La jurisprudence a cependant souligné qu'il ne fallait pas poser à ce sujet des exigences excessives, afin de ne pas renverser les rôles : il appartient en premier lieu au proposant de donner des réponses véridiques (arrêt 4A_579/2009 du 1er février 2010 consid. 2.5).
Pour entraîner les effets de la réticence, il faut encore que la réponse inexacte porte sur un fait important pour l'appréciation du risque (art. 4 al. 1 et 6 al. 1 LCA). Sont importants tous les faits de nature à influer sur la détermination de l'assureur à conclure le contrat ou à le conclure aux conditions convenues (art. 4 al 2 LCA). Pour faciliter la décision, l'<ref-law> présume que le fait est important s'il fait l'objet d'une question écrite de l'assureur. Il ne s'agit cependant que d'une présomption que l'ayant droit peut renverser (<ref-ruling> consid. 2.4 p. 337 s.; <ref-ruling> consid. 3.3.4 p. 515).
Pour les réticences survenues dès le 1er janvier 2006, l'<ref-law> a été modifié et exige, pour que l'assureur puisse refuser sa prestation (<ref-ruling> consid. 6 p. 420 ss), que l'inexactitude qui a été l'objet de la réticence ait influé sur la survenance ou l'étendue du sinistre (<ref-law>). Pour les réticences qui ont eu lieu avant le 1er janvier 2006 - comme c'est le cas en l'espèce -, cette exigence n'existe pas et l'assureur peut refuser sa prestation même si le fait qui lui a été dissimulé n'a joué absolument aucun rôle dans la survenance du sinistre ou n'exerce aucune influence sur l'étendue de son obligation (sur l'ensemble de la question : <ref-ruling> consid. 2.2 p. 335 s.).
Les effets de la réticence sont lourds pour l'ayant droit : l'assureur est en droit de résilier le contrat (<ref-law>). Non seulement l'assureur n'est plus lié pour l'avenir, mais il peut aussi refuser sa prestation pour un sinistre déjà survenu ou répéter ce qu'il a déjà payé pour un tel sinistre (art. 6 al. 3 aLCA).
L'assureur qui entend résilier le contrat doit, sous peine de déchéance, le faire dans les quatre semaines qui suivent le moment où il a eu connaissance de la réticence (<ref-law>). Ce délai ne commence à courir qu'à partir du moment où l'assureur a eu une connaissance effective, certaine et complète de la réticence, et non pas à partir du moment où il aurait pu en avoir connaissance (arrêt 4A_54/2011 du 27 avril 2011 consid. 2.4 publié in JdT 2012 II 136). Le comportement de l'assureur peut cependant être considéré comme abusif s'il a eu la possibilité de prendre connaissance des éléments constitutifs de la réticence longtemps auparavant sur la base des renseignements en sa possession (arrêt 4A_177/2008 du 14 octobre 2008 consid. 6).
La résiliation doit intervenir par écrit (<ref-law>). La jurisprudence exige qu'elle soit motivée avec précision; elle doit mentionner la question qui a reçu une réponse inexacte et préciser de façon circonstanciée en quoi consiste l'inexactitude (<ref-ruling> consid. 2.1 p. 714).
Pour admettre une réticence sous l'ancien droit, le juge doit donc déterminer quelle est la question qui a reçu une réponse inexacte, en quoi consiste l'inexactitude, si celle-ci est de nature à influer sur la volonté de conclure de l'assureur, si le proposant était en situation de comprendre la question et de donner une réponse véridique, à quel moment l'assureur a eu connaissance de la réticence et à quel moment il a manifesté par écrit la volonté de résilier le contrat avec la précision requise.
2.2 Le recours en matière civile au Tribunal fédéral est dirigé contre la décision rendue par l'autorité cantonale de dernière instance, et non pas contre le jugement de première instance (<ref-law>). On observera à ce propos que la cour cantonale ne déclare pas incorporer dans son arrêt tout ou partie de l'état de fait contenu dans le jugement de première instance.
Il faut relever préalablement que la même personne a fonctionné comme greffier de première instance et comme greffier d'appel, ce qui paraît correspondre au motif de récusation prévu par l'<ref-law>. Il n'y a pas lieu d'approfondir la question, puisque l'annulation de l'arrêt pour ce motif n'a pas été demandée dans le délai prescrit par l'<ref-law>.
Saisi d'un recours en matière civile, le Tribunal fédéral doit en principe statuer sur la base des faits établis par l'autorité précédente (<ref-law>). Il n'appartient pas au Tribunal fédéral de rechercher lui-même s'il existe des pièces utiles dans le dossier cantonal, d'en apprécier la crédibilité et d'établir son propre état de fait.
En conséquence, l'<ref-law> prescrit que la décision susceptible de recours doit contenir les motifs déterminants de fait et de droit. Si l'état de fait figurant dans la décision attaquée est insuffisant pour contrôler de quelle manière le droit fédéral a été appliqué, l'arrêt doit être annulé et la cause renvoyée à la cour cantonale pour nouvelle décision (<ref-law>; arrêt 4A_252/2007 du 15 novembre 2007 consid. 3; arrêt 9C_423/2007 du 29 août 2007).
2.3 Dans son état de fait, l'arrêt attaqué ne mentionne qu'une seule résiliation pour cause de réticence, celle intervenue par courrier du 8 décembre 2005 (arrêt attaqué p. 3 let. d). Cette lettre est ensuite examinée dans la partie " en droit " (au consid. 6 p. 6). La cour cantonale ne fait cependant que résumer la prise de position de l'assureur et le contenu du document auquel il s'est référé. On ne sait pas, sous l'angle des faits, ce que la cour cantonale a retenu ou écarté. On ignore même si elle a admis que les conditions légales d'une réticence étaient réunies. Ainsi, la cour cantonale s'est bornée à résumer les éléments du dossier qui lui étaient soumis, sans traiter elle-même la question qui lui était posée.
Dans la partie " en droit " de l'arrêt attaqué, on apprend qu'il y a eu une deuxième résiliation pour cause de réticence par courrier du 7 juin 2006 (arrêt attaqué ch. 7 p. 6). A ce sujet, la cour cantonale se borne à exposer, parfois au conditionnel, la prise de position de l'assureur (ch. 7 et 8 p. 6 et 7). Dans ce cas également, on ne sait pas ce que la cour cantonale a retenu ou écarté, ni si elle a admis que le contrat avait été valablement résilié pour cause de résiliation.
Toujours dans la partie " en droit ", on apprend qu'il y a eu une troisième résiliation pour cause de réticence par une écriture du 17 mars 2008 (arrêt attaqué ch. 9 p. 7). On pourrait certes comprendre que les deux cas précédents n'aient pas été traités si la cour cantonale avait conclu que le contrat avait de toute manière été valablement résilié dans ce troisième cas. Cependant, la cour cantonale commence, dans ce troisième cas, par exposer les prises de position des parties (ch. 9 et 10 p. 7 et 8). Elle se détermine ensuite sur deux points. Premièrement, elle considère que le nombre de visites médicales était anormalement élevé et que ce point était pertinent. Deuxièmement, elle estime que l'assuré pouvait comprendre les questions qui lui étaient posées (on ne sait pas qui a rempli les questionnaires). Ces deux opinions sont totalement insuffisantes pour constater que les conditions légales d'une réticence sont ici remplies (cf. ci-dessus consid. 2.1). L'argumentation présentée par la cour cantonale est par ailleurs incompréhensible. Elle semble considérer, sous ch. 11, que de nouvelles maladies ont été révélées, alors qu'il résulte du ch. 9 que l'assureur a invoqué seulement le nombre de visites médicales. La cour cantonale se réfère à une jurisprudence relative à un cas où quatorze consultations médicales en une année ont été dissimulées (ch. 11). En reprenant les constatations cantonales (ch. 9), on ne voit pas comment on peut parvenir à un tel chiffre dans les cinq ans qui précèdent les réponses données aux deux questionnaires. Le recourant fait valoir que l'assureur, au moment de conclure, a exclu certaines maladies après s'être renseigné auprès du médecin traitant et qu'il devait nécessairement en déduire qu'il y avait eu un certain nombre de consultations médicales dans les cinq ans précédant les questionnaires. Cette argumentation repose effectivement sur des faits constatés dans l'arrêt attaqué (let. B p. 2). La lecture de l'arrêt attaqué ne permet pas de discerner ce que l'assureur a appris de nouveau dans les quatre semaines qui précèdent son écriture, ni ce qu'il a effectivement invoqué comme motif de réticence, de sorte que l'on ne peut pas non plus apprécier si l'élément nouveau était de nature à influer sur la détermination de l'assureur à conclure le contrat ou à le conclure aux conditions convenues.
Ainsi, l'état de fait contenu dans la décision attaquée est totalement insuffisant pour permettre de contrôler que les conditions légales d'une réticence sont réunies. En conséquence, l'arrêt doit être annulé et la cause renvoyée à la cour cantonale pour nouvelle décision.
3. L'intimée ayant conclu à tort au rejet du recours, les frais judiciaires et les dépens doivent être mis à sa charge (art. 66 al. 1 et 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. L'arrêt attaqué est annulé et la cause est renvoyée à la cour cantonale pour nouvelle décision.
2. Les frais judiciaires, arrêtés à 5'000 fr., sont mis à la charge de l'intimée.
3. L'intimée versera au recourant une indemnité de 6'000 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux mandataires des parties et au Tribunal cantonal du canton de Neuchâtel, Cour d'appel civile.
Lausanne, le 4 décembre 2012
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
Le Greffier: Piaget