Faits:
A. A.a A._, né en 1952, est devenu définitivement incapable de travailler pour cause de maladie à compter du 8 octobre 2001. En tant qu'employé de la Commune de ... (Neuchâtel), il bénéficiait d'indemnités journalières en cas de maladie versées par l'assurance collective conclue par l'employeur auprès de Z._, société suisse d'assurances SA (ci-après: Z._ SA) et était assuré en matière de prévoyance professionnelle par X._ (ci-après: la Caisse de pensions).
Conformément à ses obligations contractuelles, Z._ SA a versé à A._, après un délai d'attente de 90 jours dès l'évènement assuré, 700 indemnités journalières correspondant au 100% de son salaire.
Il a été constaté que A._ a épuisé son droit aux indemnités journalières versées par Z._ SA le 6 décembre 2003.
Le 13 janvier 2004, la Caisse de pensions a informé le précité qu'elle le mettait, avec effet au 1er décembre 2003, au bénéfice d'une rente mensuelle d'invalidité de 4'409 fr.15, représentant le 50% de son dernier traitement assuré augmenté d'un supplément temporaire " pont-AI " de 2'110 fr.
Par décision du 9 juin 2004, l'Office de l'assurance-invalidité du canton de Neuchâtel (ci-après: l'office AI) a octroyé à A._ une rente mensuelle de 1'829 fr. dès le 1er octobre 2002, qui a été augmentée à 1'874 fr. à compter du 1er janvier 2003. Il a été retenu qu'au jour de cette décision, l'office AI a calculé que le prénommé avait droit, rétroactivement depuis octobre 2002, à un total de rentes se montant à 82'338 fr., dont 12'660 fr. seraient versés à la Caisse de pensions et 55'576 fr. à Z._ SA " en compensation de leurs créances en restitution ".
A.b Invoquant l'<ref-ruling>, Z._ SA, à partir de la fin 2002 et jusqu'en mai 2006, a interpellé régulièrement la Caisse de pensions pour qu'elle intervienne en priorité en faveur de A._ dès le 361e jour de son incapacité de travail, au motif que la loi cantonale neuchâteloise sur la caisse de pension (LCP/NE) ne contenait aucune disposition permettant à la caisse de différer les droits aux prestations d'invalidité de ses assurés. La Caisse de pensions a répondu par des fins de non-recevoir.
B. Par demande déposée le 9 janvier 2009 devant l'une des Cours civiles du Tribunal cantonal du canton de Neuchâtel, Z._ SA (devenue Y._ SA) a ouvert action contre la Caisse de pensions. La demanderesse a pris les conclusions suivantes:
"1. Déclarer la présente Demande recevable et bien fondée.
2. Condamner la défenderesse à verser au dossier le détail des prestations qu'elle devrait/aurait dû allouer si la demanderesse n'avait pas versé les indemnités journalières en tant qu'assureur maladie collectif en cas de perte de salaire au-delà des 12 premiers mois, en indiquant séparément les prestations obligatoires (priorité de versement) et surobligatoires (répartition proportionnelle).
3. Condamner la défenderesse à payer à la demanderesse la somme de Fr.62'000.00 ou ce que justice connaîtra, avec intérêts à 5% l'an dès le 12 novembre 2002.
4. Avec suite de frais et dépens".
La demanderesse a allégué que la défenderesse devait être contrainte à produire un décompte permettant de distinguer les prestations dites obligatoires et surobligatoires versées à A._ en application de la LPP (RS 831.40). Ainsi la demanderesse, qui a opéré seule le versement de l'entier du salaire de l'employé durant la deuxième année de son incapacité de travail, pourra chiffrer la part que la défenderesse devra lui rétrocéder, ce qui pourrait représenter au maximum le montant de 62'000 fr.
Dans sa réponse, la Caisse de pensions a déclaré que le litige avait trait à une question de coordination entre prestations d'assurances en lien à une interdiction de surindemnisation. Elle a prétendu que la LCP/NE, qui proscrit explicitement la surindemnisation, l'autorisait à différer le droit à la rente de A._ jusqu'à épuisement du droit de ce dernier aux prestations de la demanderesse. Invoquant une cession de créance opérée par l'assuré en faveur de la demanderesse le 13 décembre 2002, la défenderesse a fait valoir, à titre préjudiciel, que sa partie adverse exerçait en réalité les droits de A._ à son encontre et que les droits en cause découlaient de la LPP, si bien que la Cour civile n'était pas compétente à raison de la matière, car le différend relevait exclusivement du Tribunal administratif neuchâtelois. La défenderesse a ainsi conclu à l'irrecevabilité de la demande, subsidiairement à son mal fondé.
Invitée à se prononcer sur le moyen préjudiciel de la défenderesse, la demanderesse a souligné qu'elle ne faisait pas valoir un enrichissement illégitime de son adverse partie au sens des <ref-law>, mais un dommage propre lié au problème de coordination des prestations dues par chacune des parties, de sorte que la prescription applicable était quinquennale. Quant au déclinatoire soulevé par la défenderesse, la demanderesse a prétendu qu'il n'y avait aucune relation relevant du droit public entre les parties et que le litige avait pour objet une pure question de droit privé en tant qu'il résultait de la coordination des prestations de Z._ SA et de celles - essentiellement surobligatoires - de la Caisse de pensions, querelle relevant de la compétence de la juridiction civile.
Informées qu'il serait préalablement statué sur l'exception d'incompétence soulevée par la défenderesse, chacune des parties a déposé des conclusions en cause. La demanderesse a insisté sur le caractère civil prépondérant du litige, alors que la défenderesse a déclaré que sa partie adverse ne pouvait fonder ses prétentions que sur un rapport de prévoyance, lequel échappait à la LCA pour relever de l'application de la LPP ou de la LCP/NE.
Statuant sur moyen préjudiciel par jugement du 19 juillet 2010, la IIe Cour civile du Tribunal cantonal neuchâtelois a rejeté le déclinatoire et s'est déclarée compétente ratione materiae pour connaître du litige. Les motifs de cette décision seront exposés ci-dessous dans la mesure utile.
C. X._ exerce un recours en matière civile et un recours constitutionnel subsidiaire contre le jugement précité. Elle prend les conclusions suivantes:
"1. déclarer le présent recours en matière civile recevable et bien fondé;
2. constater l'incompétence de la IIème Cour de droit civil du Tribunal cantonal neuchâtelois dans le cadre de la procédure dont est recours;
3. ainsi, casser et annuler la décision du 10 août 2010 de la IIème Cour de droit civil du Tribunal cantonal neuchâtelois, CC.2009.3-CC2;
4. en ce sens, statuer sur la compétence de ladite Cour mentionnée en conclusion numéro 2 et la déclarer incompétente;
5. dès lors, déclarer irrecevable la demande du 9 janvier 2009 de Y._ SA et
6. éventuellement, renvoyer le dossier auprès de la IIème Cour de droit civil du Tribunal cantonal neuchâtelois pour statuer au sens des considérants de votre Tribunal;
Subsidiairement et par extraordinaire, au cas où le recours principal devait être rejeté, alors:
7. déclarer le recours constitutionnel subsidiaire recevable et bien fondé;
8. constater l'incompétence de la IIème Cour de droit civil du Tribunal cantonal neuchâtelois dans le cadre de la procédure dont est recours;
9. ainsi, casser et annuler la décision du 10 août 2010 de la IIème Cour de droit civil du Tribunal cantonal neuchâtelois, CC.2009.3-CC2;
10 en ce sens, statuer sur la compétence de ladite Cour mentionnée en conclusion numéro 8 et la déclarer incompétente;
11. dès lors, déclarer irrecevable la demande du 9 janvier 2009 de Y._ SA
12. éventuellement, renvoyer le dossier auprès de la IIème Cour de droit civil du Tribunal cantonal neuchâtelois pour statuer au sens des considérants de votre Tribunal;
En tout état de cause:
13. avant de statuer au fond, accorder au présent recours l'effet suspensif;
14. statuer sous suite de frais et dépens".
L'intimée propose le rejet des recours en toutes leurs conclusions.
Par ordonnance du 15 octobre 2010, la Présidente de la Ire Cour de droit civil a admis la demande d'effet suspensif présentée par la recourante.

Considérant en droit:
1. 1.1 Dans la décision attaquée, la cour cantonale a statué uniquement sur l'exception d'incompétence à raison de la matière soulevée par la recourante dans sa réponse. Comme la Cour civile s'est reconnue compétente, elle n'a pas rendu une décision finale au sens de l'<ref-law>, puisqu'il n'est pas mis fin à la procédure intentée par l'intimée le 9 janvier 2009, ni une décision partielle telle que l'entend l'<ref-law>, du moment qu'il n'a pas été statué sur une portion indépendante de ce qui est demandé au fond ou qu'une partie n'a pas été mise hors de cause. La décision déférée est ainsi une décision incidente qui porte sur la compétence, laquelle peut faire l'objet d'un recours immédiat au Tribunal fédéral en application de l'<ref-law>.
En cas de recours contre une décision incidente, la valeur litigieuse doit être déterminée en fonction des conclusions restées litigieuses devant l'autorité compétente sur le fond (art. 51 al. 1 let. c LTF). In casu, l'intimée, au chiffre 3 de ses conclusions, a conclu au paiement par la recourante de la somme de 62'000 fr. en capital ou ce que justice dira. Ainsi, le seuil de 30'000 fr. fixé par l'<ref-law> pour les affaires pécuniaires est dépassé.
1.2 A teneur de l'<ref-law>, le Tribunal fédéral connaît des recours contre les décisions rendues en matière civile. La notion de matière civile se détermine d'après l'objet du litige. Il est décisif sous cet angle - comme c'était déjà le cas sous l'empire de la loi fédérale d'organisation judiciaire du 16 décembre 1943 (OJ) - de déterminer si les parties, à considérer leurs allégués, moyens et conclusions, ont élevé des prétentions fondées sur le droit civil fédéral et si de telles prétentions sont objectivement litigieuses. Le différend qui porte sur la question de savoir si des prétentions de droit privé fédéral ont objectivement été soulevées est rendu également en matière civile (<ref-ruling> consid. 1.1.1 p. 485; <ref-ruling> consid. 2.1; <ref-ruling> consid. 1a p. 252 et les références).
En l'espèce, l'intimée - demanderesse en instance cantonale - a émis des prétentions que la IIe Cour civile du Tribunal cantonal neuchâtelois a qualifiées comme étant de nature civile, ce qui justifiait sa compétence à raison de la matière pour connaître du litige au fond. La recourante conteste la nature civile des prétentions élevées à son encontre et affirme qu'il s'agit d'un litige de droit public, qui se rapporte précisément au droit des assurances sociales. Le présent différend, qui a trait au point de savoir si c'est à juste titre que l'autorité précédente a considéré que la cause relève du droit civil, a donc été rendu en matière civile au sens de l'<ref-law>.
1.3 Interjeté pour le reste par la partie défenderesse qui a vu écarter ses conclusions en déclinatoire de compétence et qui a ainsi la qualité pour recourir (<ref-law>), dirigé contre une décision de l'autorité cantonale de dernière instance (<ref-law>), le recours en matière civile est par principe recevable, puisqu'il a été déposé dans le délai (<ref-law>) et la forme (<ref-law>) prévus par la loi. Que la cour cantonale ait statué en instance unique est certes contraire aux exigences de l'<ref-law>, mais il n'importe car les cantons disposent encore d'un délai d'adaptation (<ref-law>).
La recevabilité du recours en matière civile rend irrecevable le recours constitutionnel exercé parallèlement par la recourante contre le jugement attaqué (<ref-law>).
1.4 Le recours en matière civile peut être interjeté pour violation du droit fédéral (<ref-law>), y compris le droit constitutionnel (<ref-ruling> consid. 1.4 p. 674; <ref-ruling> consid. 1.2 p. 382). Le Tribunal fédéral applique le droit d'office (<ref-law>). Il n'est pas limité par les arguments soulevés dans le recours ni par la motivation retenue par l'autorité précédente; il peut donc admettre un recours pour d'autres motifs que ceux qui ont été articulés, ou à l'inverse, rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (<ref-ruling> consid. 1.4 et l'arrêt cité). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (<ref-law>), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui (<ref-ruling> consid. 1.4). Par exception à la règle selon laquelle il applique le droit d'office, il ne peut entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal que si le grief a été invoqué et motivé de manière précise par la partie recourante (<ref-law>; <ref-ruling> consid. 1.4 in fine).
1.5 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (<ref-law>). Il ne peut s'en écarter que si les constatations factuelles de l'autorité cantonale ont été établies de façon manifestement inexacte - notion qui correspond à celle d'arbitraire telle que l'entend l'art. 9 Cst. (<ref-ruling> consid. 1.5 p. 130, 397 consid. 1.5) - ou en violation du droit au sens de l'<ref-law> (<ref-law>). La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (<ref-ruling> consid. 1.4 et 6.2). Le recourant ne peut de toute manière demander une correction de l'état de fait que si celle-ci est susceptible d'influer sur le sort de la cause (<ref-law>). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (<ref-law>).
Le Tribunal fédéral ne peut aller au-delà des conclusions des parties (<ref-law>). Toute conclusion nouvelle est irrecevable (<ref-law>).
2. 2.1 Il résulte du jugement critiqué que la Cour civile a nié que la prétention de la demanderesse se rapportât, par le jeu de la cession de créance opérée par A._ au profit de celle-ci, à un contentieux soumis à la réglementation de l'<ref-law>. D'un autre côté, elle a admis qu'il n'était pas possible de considérer que la part des prétentions de la demanderesse fondée sur la loi fédérale du 2 avril 1908 sur le contrat d'assurance (LCA; RS 221.229.1) l'emporterait sur celle découlant du droit de la prévoyance professionnelle obligatoire, ce qui aurait entraîné de ce seul fait sa compétence matérielle. Soulignant que la LCA peut devoir être appliquée par analogie et à titre subsidiaire dans le domaine de la prévoyance dite plus étendue, la cour cantonale en a inféré que cette loi est susceptible de trouver également application lorsqu'il est question de coordonner les prestations d'une institution de prévoyance et celles d'une compagnie d'assurance privée. Comme la présente affaire repose sur l'application des art. 53 et 71 al. 1 LCA " dans les rapports de deux assureurs entre eux, sans lien de subordination entre eux mais au contraire placés sur un pied d'égalité ", les magistrats neuchâtelois ont jugé que le litige est de nature civile et qu'en conséquence il lui compète.
2.2 La recourante prétend que la cour cantonale a violé le droit fédéral en n'appliquant pas l'<ref-law>. Elle soutient qu'elle ne peut être amenée à prester que dans le cadre des prestations qu'elle offre en vertu de la LPP, dès lors que l'intimée n'a pas fondé son action sur un enrichissement illégitime et qu'une action en responsabilité n'entre pas en ligne de compte. Elle relève qu'il n'est pas décisif, pour l'application de l'<ref-law>, que la partie demanderesse soit ou non une caisse de pensions. Du moment que la recourante est une institution de prévoyance reconnue, inscrite au registre officiel, elle relève de la voie de droit instituée par la norme précitée. Autrement dit, le Tribunal administratif cantonal est seul compétent pour connaître du litige, qui porte sur des prestations d'invalidité. La recourante fait encore grief à l'autorité cantonale de n'avoir pas recherché les relations juridiques nouées par les parties. Elle allègue enfin que l'intimée ne saurait lui opposer ses conditions générales d'assurance, car aucun contrat n'a lié les plaideurs en relation avec l'incapacité de gain subie par A._.
3. 3.1 Dans sa demande déposée le 9 janvier 2009, l'intimée a conclu, sous chiffre 2, à ce que la recourante soit contrainte à donner le détail des prestations qu'elle aurait dû allouer à l'assuré si la première n'avait pas versé d'indemnités journalières en cas de maladie au-delà des douze premiers mois de l'incapacité de travail dudit assuré, cela en faisant le départ entre les prestations obligatoires et surobligatoires; sous chiffre 3 de ses conclusions, elle a réclamé paiement à la Caisse de pensions de la somme de 62'000 fr. en capital. A l'appui de ses prétentions, l'intimée a fait valoir qu'elle devait être libérée au moins partiellement de son obligation de verser à l'assuré les indemnités journalières contractuellement dues, parce que ce dernier était surindemnisé et ne pouvait donc pas toucher 700 indemnités journalières; estimant avoir trop payé, l'intimée est d'avis que la recourante est sa débitrice.
3.2 Différentes théories ont été développées pour délimiter les affaires ressortissant au droit public de celles relevant du droit privé. Les différents critères de distinction applicables ne s'excluent pas entre eux, mais doivent au contraire être utilisés de cas en cas afin de rechercher celui qui est le mieux approprié pour résoudre la question concrète qui se pose. Ainsi, selon la théorie de la subordination, appelée aussi théorie des sujets, le poids est mis sur l'égalité de rang des sujets de droit ou, à l'inverse, sur la sujétion qui existe entre eux du fait de l'exercice de la puissance publique. La théorie de la fonction considère qu'une norme est de droit public si elle règle l'exécution d'une tâche publique ou l'exercice d'une activité publique. Quant à la théorie des intérêts, elle distingue selon que sont poursuivis des intérêts privés ou des intérêts publics (<ref-ruling> consid. 4.3 p. 273; <ref-ruling> consid. 2 p. 253 et les références; cf. aussi ULRICH HÄFELIN ET AL, Allgemeines Verwaltungsrecht, 6e éd, 2010, p. 55 ss).
En l'occurrence, on est en présence d'un litige qui a trait principalement à l'interdiction de la surindemnisation, respectivement au remboursement de prestations qu'une assurance (privée) a effectuées comme avances au profit du lésé et dont elle exige la restitution à une caisse de prévoyance au sens de la LPP. On ne peut pas affirmer qu'il existe un rapport de subordination entre les parties. Il n'est pas davantage possible de considérer que les intérêts en jeu sont différents selon qu'une action récursoire est intentée entre assureurs privés ou entre assureurs sociaux. Cela étant, tant l'interdiction de la surindemnisation - principe qui vaut en droit privé et désormais en droit des assurances sociales (cf. art. 69 de la loi fédérale sur la partie générale du droit des assurances sociales du 6 octobre 2000; LPGA, RS 830.1) - que l'harmonisation et la coordination entre les divers régimes d'assurance existants impliquent l'instauration d'un droit de recours des institutions sollicitées, soumis aux mêmes principes juridiques, peu importe que les institutions en cause relèvent du droit privé ou droit public. Le choix de la voie de droit doit en conséquence dépendre du titre juridique sur lequel reposent les prétentions déduites en justice, plus exactement du domaine auquel appartiennent les normes sur lesquelles sont fondées les créances réclamées.
3.3 La réglementation concernant le remboursement des avances se trouve - en matière d'assurances sociales - à l'<ref-law>. D'après cette disposition, l'assureur tenu de prendre provisoirement le cas à sa charge alloue les prestations selon les dispositions régissant son activité. Lorsque le cas est pris en charge par un autre assureur, celui-ci lui rembourse ses avances dans la mesure où elles correspondent aux prestations qu'il aurait dû lui-même allouer. En cas de concours de plusieurs prestations avec des prestations prévues par d'autres assurances sociales, l'<ref-law> renvoie à l'<ref-law>, qui prescrit que, sous réserve de surindemnisation, les rentes et les indemnités en capital des différentes assurances sociales sont cumulées (al. 1) et versées selon l'ordre prévu par son alinéa 2, soit l'AVS ou l'AI (let. a), l'assurance militaire ou l'assurance-accidents (let. b), la prévoyance professionnelle vieillesse, survivants et invalidité au sens de la LPP (let. c).
Il appert ainsi que les règles portant sur le remboursement des avances se trouvent dans la LPP, respectivement dans la LPGA, c'est-à-dire dans le droit des assurances sociales, lequel fait partie intégrante du droit public. Il sied à ce stade de préciser que la prévoyance surobligatoire au sens de l'<ref-law> ressortit également au droit public (cf. arrêt 9C_40/2010 du 6 octobre 2010).
3.4 Il est constant que la demanderesse et intimée est une assurance privée. Le recours entre responsables en droit privé est réglementé aux art. 50 et 51 CO, alors que celui de l'assureur en droit des assurances privées fait l'objet spécifiquement de l'<ref-law>. L'intimée ne fonde toutefois pas ses prétentions sur une de ces dispositions.
A supposer que la demanderesse, forte d'une subrogation légale ou d'une cession, serait devenue titulaire des droits de l'assuré à l'endroit de la recourante reposant sur la LPP, l'intimée aurait été subrogée dans la position procédurale du cédant (i. e. l'assuré), de sorte que le différend compéterait à l'instance compétente en vertu de l'<ref-law>. L'intimée ne prétend pas agir par ce mécanisme.
En réalité, la demanderesse se réfère aux règles de coordination qui ont été instituées en droit des assurances sociales pour éviter la surindemnisation (cf. <ref-law>). Il faut en déduire que le titre juridique qui sous-tend l'action en justice qu'elle a exercée appartient au domaine du droit public. Quand bien même devrait-on qualifier de mixte l'action qu'elle a ouverte, il conviendrait d'empêcher que survienne une scission des voies de droit à disposition. Or les droits de recours, dont bénéficient les assurances privées ou sociales, contre des institutions de prévoyance enveloppantes doivent être qualifiés entièrement de conflits de droit public, car ils relèvent de normes du droit des assurances sociales, lequel droit constitue une branche du droit public. Il n'importe à cet égard que la querelle porte en partie sur des prestations surobligatoires qui, en elles-mêmes, devraient être classées dans le droit privé.
En définitive, le présent litige appartient donc au droit public. La IIe Cour de droit social du Tribunal fédéral a approuvé cette qualification dans la procédure de coordination d'après l'<ref-law>. Partant, le dossier devra être transmis à l'autorité judiciaire compétente en droit neuchâtelois pour statuer sur des litiges de cette nature.
4. Il suit de là qu'en se déclarant compétente à raison de la matière pour connaître du litige opposant les parties, la cour cantonale a violé le droit fédéral.
En conséquence, le recours en matière civile doit être admis et le jugement attaqué doit être annulé. La cause sera retournée à l'autorité cantonale pour qu'elle la transmette à l'instance judiciaire compétente.
La solution étant inversée par rapport à celle retenue par la Cour civile, les frais et dépens de la procédure cantonale, par respectivement 1'100 fr. et 1'500 fr., sont mis à la charge de l'intimée (<ref-law>).
Les frais judiciaires et les dépens de l'instance fédérale seront mis à la charge de l'intimée (art. 66 al. 1 et 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours constitutionnel subsidiaire est irrecevable.
2. Le recours en matière civile est admis, le jugement attaqué est annulé et la cause est renvoyée à la cour cantonale pour qu'elle la transmette à l'instance compétente selon les considérants.
3. Les frais et dépens de la procédure cantonale, par respectivement 1'100 fr. et 1'500 fr., sont mis à la charge de l'intimée.
4. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge de l'intimée.
5. L'intimée versera à la recourante une indemnité de 2'500 fr. à titre de dépens.
6. Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton de Neuchâtel, IIe Cour civile.
Lausanne, le 20 décembre 2010
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Le Greffier:
Klett Ramelet