Faits:
A. A.a X._ a entrepris en octobre 2004 des études à la Haute Ecole Spécialisée de La Source.
Parallèlement à ses études, X._ a été engagée par la Fondation Y._ (ci-après: la fondation), pour une durée indéterminée dès le 15 octobre 2004, en qualité de veilleuse de nuit remplaçante au sein de la Maison A._, établissement socio-éducatif accueillant principalement des personnes handicapées mentales adultes. La rémunération horaire convenue pour une nuit de veille, d'une durée de 11 heures (soit de 20 heures à 7 heures le lendemain) était de 28 fr. 44 brut, avec une « indemnité pour inconvénient de service » de 167 fr. par mois pour un plein temps. La travailleuse était colloquée en classes 11-13, avec quatre annuités, correspondant à un salaire mensuel brut à temps complet de 4'486 fr. versé treize fois l'an, indemnité pour inconvénient de service en sus. La fondation a établi le 2 décembre 2004 une lettre de confirmation d'engagement reprenant les éléments sus-décrits.
Il a été retenu que U._, adjoint de direction de la fondation, a indiqué que la collocation de la travailleuse en classes 11-13 constituait un surclassement tenant compte des inconvénients du travail de nuit.
X._ a travaillé 55 heures en 2004 au salaire horaire de 28 fr. 44, 865 heures en 2005 au salaire horaire de 29 fr.80 et 123 heures aux mois de janvier et de février 2006 au salaire horaire de 30 fr.31.
A.b La fondation a adhéré, avec effet au 1er janvier 2005, à trois conventions collectives de l'AVOP (Association vaudoise des organisations privées pour personnes en difficulté), qui ne régissent pas spécifiquement le statut de veilleuse.
Le statut du personnel de l'AVOP est applicable aux employés de la fondation, dont les veilleuses de nuit en tant qu'il les concerne. L'art. 217c de ce statut, intitulé «Personnel infirmier », prévoit que le temps de travail effectué par ledit personnel entre 20 heures et 6 heures donne droit à une compensation en temps de 20% de la durée de ce travail; l'art. 227 du même statut dispose que, lors de l'engagement, l'employeur détermine la classification du travailleur (d'après la liste des classifications établies par l'AVOP) et le nombre d'annuités auxquelles il a droit en raison de ses expériences professionnelles antérieures.
Selon la classification des fonctions de l'AVOP, le « Personnel infirmier » se compose de l'aide-infirmier sans formation (classification 5-7), du premier aide-infirmier, sans formation, mais avec cours de base de la Croix-Rouge ou de l'AVDEMS (Association vaudoise d'établissements médico-sociaux) et pratique de huit ans au moins (classification 7-9), de l'aide-hospitalier avec certificat de capacité (classification 9-11), de la nurse avec certificat de capacité (classification 9-11), de l'infirmier-assistant avec certificat de capacité (classification 11-13), du premier infirmier-assistant avec certificat de capacité ainsi que plusieurs années d'expérience et responsabilités particulières (classification 13-15), de l'infirmier diplômé (classification 17-19) et du premier infirmier diplômé, avec plusieurs années d'expérience et responsabilités particulières (classification 19-21).
A.c Par lettre du 6 mars 2006, X._ a été engagée par la fondation pour une durée indéterminée dès le 1er mars 2006 en tant que veilleuse de nuit à un taux de 20 %, avec la possibilité de continuer à effectuer des remplacements. Elle demeurait colloquée en classes 11-13 pour un salaire brut à plein temps de 4'632 fr.10, représentant 926 fr.40 à 20%, et continuait de percevoir l'indemnité pour inconvénient de service à raison de 3% du salaire brut. La lettre d'engagement précisait que « pour le surplus, le présent contrat est soumis aux conditions du statut du personnel AVOP, hormis pour les articles 248 et 251 relatifs à l'institution de prévoyance ».
A compter du 1er juin 2006, le taux d'activité de la travailleuse a été augmenté à 40%. Celle-ci a effectué des veilles supplémentaires, payées à l'heure, pour un total de 570 heures au salaire horaire de 30 fr.65 de mars à décembre 2006, de 558 heures à 31 fr.20 de l'heure en 2007, de 363 heures à 32 fr.20 de l'heure en 2008 et de 266 heures à 33 fr.70 de l'heure de janvier à juin 2009.
A.d Le 1er janvier 2008 est entrée en vigueur la Convention collective de travail dans le secteur sanitaire parapublic vaudois, laquelle prévoit, à son art. 3.7, que chaque heure de travail effectuée entre 20 heures et 6 heures donne droit, en sus d'une compensation en temps de repos supplémentaire, à une indemnité de 5 fr. Il n'a pas été établi que la fondation serait partie à cette convention collective ou qu'elle ferait partie d'une des associations patronales signataires en ce qui concerne l'établissement qui employait X._, ni que l'indemnité de 5 fr. susmentionnée serait généralisée dans le Canton de Vaud.
B. B.a En juin 2007, le Syndicat B._ (ci-après: B._), mandaté par le groupe des veilleuses de nuit de la Maison A._, a fait part à la fondation des revendications notamment salariales de celles-ci. Le 5 septembre 2007, B._ a saisi l'Office cantonal de conciliation et d'arbitrage en cas de conflits collectifs. Cet office a tenté sans succès une conciliation au cours de l'année 2008.
Le 16 juillet 2009, le conseil de X._ a proposé au mandataire de la fondation de présenter en justice le cas de la précitée, emblématique à ses yeux, et a requis de la fondation de signer une déclaration de renonciation à la prescription pour les autres veilleuses. La fondation a signé une telle déclaration le 21 janvier 2010 à l'égard de 29 personnes, dont X._.
Le 16 juillet 2009, X._ a ouvert action contre la fondation devant le Tribunal civil de l'arrondissement de Lausanne. Elle a réclamé (I) que, dès le 15 octobre 2004, son salaire comprenne une indemnité de 5 fr. par heure, ainsi qu'une compensation de 20% pour les heures travaillées de 20 heures le soir à 6 heures du matin et (II) que la défenderesse lui doive paiement de 76'641 fr.45 plus intérêts à 5% l'an dès le 16 avril 2007.
La défenderesse a conclu à sa libération.
Le tribunal d'arrondissement a entendu 16 témoins.
La demanderesse a achevé sa formation d'infirmière au printemps 2010 et a cessé de travailler pour la défenderesse à fin juin 2010.
Par jugement du 8 juin 2010, dont la motivation a été envoyée le 15 août 2011, le tribunal d'arrondissement a rejeté les conclusions de la demande.
B.b Saisie d'un recours formé par la demanderesse, la Chambre des recours du Tribunal cantonal vaudois, par arrêt du 3 janvier 2012, l'a rejeté, le jugement attaqué étant confirmé.
En substance, la cour cantonale a considéré qu'il n'y avait pas lieu de compléter l'état de fait du jugement ni de procéder à une instruction complémentaire. Elle a retenu que la classification des fonctions de l'AVOP n'incorporait pas les veilleurs dans le « personnel infirmier », qu'il s'agissait d'un silence qualifié puisque les partenaires sociaux ont édicté des dispositions particulières applicables aux veilleurs et surveillants de nuit et que la recourante ne pouvait ainsi se prévaloir de l'art. 217c du statut du personnel de l'AVOP. Elle a admis que la Convention collective de travail dans le secteur sanitaire parapublic vaudois, qui prévoit une indemnité supplémentaire de 5 fr. par heure, ne liait pas la fondation. Enfin, l'autorité cantonale a jugé que la demanderesse n'était pas en droit d'invoquer l'art. 17b al. 2 de la loi fédérale du 13 mars 1964 sur le travail dans l'industrie, l'artisanat et le commerce (Loi sur le travail, LTr; RS 822.11).
C. X._ exerce un recours en matière civile au Tribunal fédéral contre l'arrêt précité. Elle conclut principalement à ce que la défenderesse soit condamnée à lui payer 76'641 fr.45 plus intérêts à 5% l'an dès le 16 avril 2007; subsidiairement, elle requiert l'annulation de l'arrêt cantonal, la cause étant retournée à la Chambre des recours.
L'intimée propose le rejet du recours en tant qu'il est recevable.
Les parties ont répliqué et dupliqué.
Considérant en droit:
1. 1.1 Interjeté par la partie demanderesse qui a entièrement succombé dans ses conclusions en paiement et qui a ainsi la qualité pour recourir (art. 76 al. 1 LTF), dirigé contre un arrêt final (art. 90 LTF) rendu en matière civile (art. 72 al. 1 LTF) par un tribunal supérieur statuant sur recours en dernière instance cantonale (art. 75 LTF) dans une affaire pécuniaire dont la valeur litigieuse atteint le seuil de 15'000 fr. requis en droit du travail (art. 74 al. 1 let. a LTF), le recours est par principe recevable, puisqu'il a été déposé dans le délai (art. 100 al. 1 LTF) et la forme (art. 42 LTF) prévus par la loi.
1.2 Le recours en matière civile peut être interjeté pour violation du droit fédéral (art. 95 let. a LTF), y compris le droit constitutionnel (ATF 136 I 241 consid. 2.1 p. 247; 136 II 304 consid. 2.4 p. 313). Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Il n'est pas limité par les arguments soulevés dans le recours ni par la motivation retenue par l'autorité précédente; il peut donc admettre un recours pour d'autres motifs que ceux qui ont été articulés, ou à l'inverse, rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (ATF 137 II 313 consid. 1.4 p. 317 s.; 135 III 397 consid. 1.4 et l'arrêt cité). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (art. 108 al. 1 let. b LTF), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui (ATF 137 III 580 consid. 1.3 p. 584; 135 II 384 consid. 2.2.1 p. 389; 135 III 397 consid. 1.4). Par exception à la règle selon laquelle il applique le droit d'office, il ne peut entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal que si le grief a été invoqué et motivé de manière précise par la partie recourante (art. 106 al. 2 LTF; ATF 135 III 397 consid. 1.4 in fine).
1.3 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si les constatations factuelles de l'autorité cantonale ont été établies de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire (ATF 137 I 58 consid. 4.1.2 p. 62; 136 II 304 consid. 2.4) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF).
La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'art. 105 al. 2 LTF seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (ATF 137 II 353 consid. 5.1 p. 356; 136 I 184 consid. 1.2 p. 187). Une rectification de l'état de fait ne peut être demandée que si elle est susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF).
1.4 Le Tribunal fédéral ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF). Toute conclusion nouvelle est irrecevable (art. 99 al. 2 LTF).
2. Il est constant que les parties ont été liées par deux contrats individuels de travail (cf. art. 319 CO), le premier conclu pour la période du 15 octobre 2004 au 28 février 2006, le second pour celle ayant couru du 1er mars 2006 au 30 juin 2010.
3. La recourante prétend tout d'abord que la cour cantonale a violé son droit d'être entendue et commis arbitraire, par une application insoutenable de l'ancien art. 456a du Code de procédure civile vaudois du 14 décembre 1966 (CPC/VD), en ne procédant pas à des corrections de l'état de fait et à des mesures d'instruction complémentaires. Elle fait valoir que les déclarations de trois témoins, soit R._, S._ et T._, toutes d'anciennes collègues, n'ont été que résumées dans le jugement de première instance, de sorte que la cour cantonale devait les entendre à nouveau, en particulier à propos du prétendu surclassement de la demanderesse. La Chambre des recours devait aussi prendre en compte les pièces nouvelles produites par la recourante à l'appui de son recours cantonal.
3.1 Il n'est pas contesté que le dispositif du jugement de première instance ayant été rendu le 8 juin 2010, soit avant l'entrée en vigueur du CPC (RS 272) le 1er janvier 2011, le recours cantonal demeurait régi par le CPC/VD (art. 405 al. 1 CPC).
3.2 Le droit d'être entendu comprend notamment le droit, pour l'intéressé, d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes, de participer à l'administration des preuves essentielles ou à tout le moins de s'exprimer sur son résultat lorsque cela est de nature à influer sur la décision à rendre (ATF 135 II 286 consid. 5.1 et les arrêts cités).
Il ressort en l'espèce du procès-verbal des opérations du Tribunal d'arrondissement de Lausanne figurant au dossier que la recourante a assisté, en présence de son avocat, à l'interrogation des trois témoins précités lors de l'audience tenue le 26 mai 2010. Il ne ressort pas de ce document que la recourante a été empêchée de poser des questions à ces témoins. La recourante ne l'a d'ailleurs jamais prétendu.
On ne discerne pas trace d'une violation du droit d'être entendu en relation avec l'administration de ces moyens de preuve.
3.3 Selon l'ancien art. 456a CPC/VD, en matière de recours en réforme contre les jugements rendus notamment par un tribunal d'arrondissement, le Tribunal cantonal peut, sans délibération publique, exceptionnellement ordonner l'administration de toute preuve ou mesure d'instruction qu'il juge utiles (al. 1); il peut annuler d'office le jugement et le renvoyer à la juridiction de première instance, l'art. 448 étant alors applicable (al. 2).
La cour cantonale a retenu que la production de pièces nouvelles en deuxième instance n'était admissible que si elle n'alourdissait pas l'instruction du recours, étant précisé qu'elle ne devait être admise que restrictivement, eu égard à la garantie de la double instance touchant à l'appréciation des faits. Se référant à deux précédents rendus le 21 janvier 2010 et le 17 novembre 2009, elle a ajouté que les conditions d'une instruction complémentaire au sens de la norme précitée valaient pour le dépôt d'une seule pièce, mais pas d'un lot de plusieurs pièces.
La doctrine est d'avis que ce correctif a un caractère exceptionnel; et de citer l'exemple de la production d'une pièce que le premier juge a omis de faire verser au dossier (JEAN-FRANÇOIS POUDRET ET AL, Procédure civile vaudoise, 3e éd. 2002, note non numérotée ad art. 456a CPC/VD, p. 702).
Dans le cas présent, la recourante a voulu produire huit pièces devant la Chambre des recours ainsi que tous les contrats de travail passés par la fondation avec des veilleuses de nuit entre 2002 et 2006.
A considérer les précédents cités par la cour cantonale - auxquels la recourante n'a pas fait référence - et l'opinion doctrinale susrappelée, la cour cantonale n'a pas appliqué arbitrairement l'ancien art. 456a CPC/VD en refusant d'ordonner la production des nombreuses pièces requises.
S'agissant de la réaudition de trois témoins par la Chambre des recours, cette dernière a relevé dans l'arrêt déféré, en se référant à la jurisprudence cantonale, que la travailleuse n'avait pas demandé en première instance la verbalisation de ces dépositions, de sorte qu'elle n'était pas habilitée à corriger cette lacune par des mesures d'instruction prévues par l'ancien art. 456a CPC/VD. La recourante ne discute pas ce raisonnement, de sorte que les critiques à caractère appellatoire qu'elle élève sur cette question sont irrecevables.
Le moyen, sous toutes ses facettes, est infondé en tant qu'il est recevable.
4. La recourante soutient qu'à plusieurs égards l'établissement des faits serait inexact, soit arbitraire, et que les preuves auraient été appréciées de manière insoutenable.
S'agissant d'un grief de nature constitutionnelle, il appartient à la partie recourante de démontrer l'arbitraire par une argumentation répondant aux exigences de l'art. 106 al. 2 LTF (ATF 137 I 58 consid. 4.1.2 p. 62; 133 II 249 consid. 1.4.3 p. 254 s.).
Selon la jurisprudence, l'arbitraire, prohibé par l'art. 9 Cst., ne résulte pas du seul fait qu'une autre solution pourrait entrer en considération ou même qu'elle serait préférable; le Tribunal fédéral n'annulera la décision attaquée que lorsque celle-ci est manifestement insoutenable, qu'elle se trouve en contradiction claire avec la situation de fait, qu'elle viole gravement une norme ou un principe juridique indiscuté, ou encore lorsqu'elle heurte de manière choquante le sentiment de la justice et de l'équité. Pour qu'une décision soit annulée pour cause d'arbitraire, il ne suffit pas que la motivation formulée soit insoutenable, il faut encore que la décision apparaisse arbitraire dans son résultat (ATF 137 I 1 consid. 2.4 p. 5; 136 I 316 consid. 2.2.2 p. 318/319; 136 III 552 consid. 4.2 p. 560).
Concernant l'appréciation des preuves, la décision n'est arbitraire que si le juge n'a manifestement pas compris le sens et la portée d'un moyen de preuve, s'il a omis, sans raison sérieuse, de tenir compte d'un moyen important propre à modifier la décision attaquée ou encore si, sur la base des éléments recueillis, il a fait une déduction insoutenable (ATF 137 I 58 consid. 4.1.2 p. 62; 136 III 552 consid. 4.2 p. 560; 134 V 53 consid. 4.3).
4.1 La recourante affirme que les magistrats vaudois ont sombré dans l'arbitraire en retenant qu'elle a bénéficié d'un surclassement venant compenser les inconvénients générés par le travail de nuit régulier qu'elle effectuait pour l'intimée. Elle fait valoir que les déclarations du témoin U._ devaient être appréciées avec prudence compte tenu de sa position de cadre au sein de la fondation, d'autant qu'elles étaient contredites par la déposition d'un secrétaire syndical. Elle allègue que les différences de classification avec d'autres collègues seraient dues à sa formation et à son expérience.
Il est vrai que si le témoin U._, adjoint de direction de la fondation, a indiqué que la collocation de la recourante en classes 11-13 constituait un surclassement compensant les désagréments causés par le travail de nuit, le représentant syndical, entendu également comme témoin, a contesté cette affirmation. L'autorité cantonale a toutefois constaté, sans que l'arbitraire soit invoqué à ce propos, que le projet de dispositions particulières applicables aux veilleurs et surveillants de nuit, rédigé en juillet 2009 sous l'égide de l'AVOP, prévoyait, pour le personnel au bénéfice - à l'instar de la demanderesse pendant son engagement - d'un diplôme d'auxiliaire de santé de la Croix-Rouge, des classes de salaire 5-7 plus une annuité, c'est-à-dire une collocation largement inférieure à celle obtenue par la recourante chez l'intimée (classes 11-13 plus quatre annuités).
Vu le large pouvoir qui est reconnu à la cour cantonale dans le domaine de l'appréciation des preuves et de la constatation des faits (ATF 120 Ia 31 consid. 4b; 118 Ia 28 consid. 1b et les références citées), celle-ci pouvait retenir sans arbitraire, dans le cadre d'une appréciation d'ensemble des preuves administrées, que la demanderesse avait bénéficié d'un surclassement.
4.2 Pour la recourante, il serait insoutenable de retenir que l'indemnité pour inconvénient de service qui lui a été versée en sus de son salaire représentait une compensation pour le travail de nuit régulier. Elle prétend que cette indemnité devait notamment compenser les jours fériés et les fins de semaine travaillés.
Il résulte de la lettre de confirmation d'engagement du 2 décembre 2004 qu'une indemnité pour inconvénient de service - de 167 fr. par mois pour un plein temps - s'ajoutait au salaire horaire convenu pendant la nuit de veille. La recourante n'a pas indiqué avec précision les jours fériés et les week-ends pendant lesquels elle aurait effectué des veilles pour la fondation. On ne voit donc pas quel autre « inconvénient de service » que le travail de nuit régulier cette indemnité devait compenser. La constatation de l'autorité cantonale résiste au grief d'arbitraire.
4.3 A suivre la recourante, la cour cantonale aurait retenu arbitrairement qu'elle ne faisait pas partie du « Personnel infirmier » mentionné dans le statut du personnel de l'AVOP. Elle est d'avis que les tâches qu'elle effectuait s'apparentaient à un travail d'aide-infirmière sans formation et dépassaient la simple surveillance.
Il résulte de l'arrêt cantonal que dans l'établissement où travaillait la recourante, il y avait deux veilleuses de nuit pour près de trente résidents, en majorité alités ou très dépendants. Mais il a été constaté, sans qu'une critique d'arbitraire soit élevée, que lors des nuits de veille un système de piquet infirmier était mis en place, auquel les veilleuses pouvaient s'adresser en cas de besoin. S'il y a eu des périodes où il n'y avait pas de piquet infirmier, les veilleuses avaient néanmoins la possibilité de téléphoner au médecin de garde.
La cour cantonale a énuméré en détail les soins de base que prodiguaient aux résidents les veilleuses (consid. 7 de l'arrêt cantonal, p. 6/7): enlèvement de patchs, application de crèmes, prise de la tension et du pouls, contrôle de la glycémie, injections sous-cutanées, administration d'oxygène aux résidents respirant avec difficulté, débranchement d'alimentation entérale, distribution de médicaments, y compris de la morphine sous forme de gouttes.
On ne trouve toutefois pas dans cette liste les soins infirmiers typiques, qui comprennent la pose de perfusion, la surveillance de l'état des plaies, l'enlèvement des fils et agrafes, la prise de sang, la mise en place d'une thérapeutique médicamenteuse ou l'assistance à un geste médical (cf. LAROUSSE MÉDICAL, 1995, sous « soins infirmiers », p. 951).
Partant, il n'y avait rien d'insoutenable à retenir que la recourante ne procurait pas de soins infirmiers aux résidents et qu'elle ne faisait pas partie du personnel infirmier.
4.4 La cour cantonale aurait enfin nié de manière indéfendable que l'indemnité de 5 fr. venant s'ajouter au salaire horaire convenu, qui a été introduite par l'art. 3.7 de la Convention collective de travail dans le secteur sanitaire parapublic vaudois, serait devenue une pratique généralisée dans le Canton de Vaud pour les institutions subventionnées. La recourante se réfère à la déposition du secrétaire syndical.
La Chambre des recours a constaté qu'il n'était pas ressorti de l'instruction que cette indemnité serait généralisée dans le Canton de Vaud, quand bien même la déposition du secrétaire syndical indiquait qu'elle était « très généralement pratiquée ». On ne peut pas déduire de ce seul témoignage, qui émet une légère restriction quant à l'octroi automatique de l'indemnité en question, que celle-ci serait versée par toutes les institutions vaudoises au bénéfice de subventions étatiques.
En tout cas, la constatation incriminée n'est pas arbitraire.
5. La recourante soutient que dès l'instant où la recourante n'a pas bénéficié d'un surclassement, la fondation ne disposerait pas d'un système de rémunération permettant de compenser le travail de nuit régulier.
La recourante, qui n'invoque la violation d'aucune norme de droit fédéral, ne motive pas sa critique en conformité avec l'art. 42 al. 1 et 2 LTF, d'où son irrecevabilité.
De toute manière, le grief se heurte de plein fouet à la constatation, non arbitraire ainsi que l'on vient de le voir, que la recourante a été mise par l'intimée au bénéfice d'un surclassement.
6. La recourante reproche aux magistrats vaudois d'avoir exclu de lui appliquer l'art. 217c du statut du personnel de l'AVOP. Elle prétend derechef qu'il serait arbitraire de ne pas la considérer comme ayant fait partie du personnel infirmer de l'intimée.
Il a déjà été fait justice ci-dessus (cf. consid. 4.3) de la critique en rapport avec l'appartenance de la demanderesse au personnel infirmier. Il n'y a pas à y revenir.
Dépourvu de toute critique de droit fédéral, le moyen est irrecevable (art. 42 al. 1 et 2 LTF).
La cour cantonale ayant retenu que l'art. 217c dudit statut ne concernait que le « Personnel infirmier », cette disposition était évidemment inapplicable à la recourante, qui n'appartenait pas à ce personnel.
7. La recourante affirme qu'elle avait droit à l'indemnité de 5 fr. prévue à l'art. 3.7 de la Convention collective de travail dans le secteur sanitaire parapublic vaudois.
La recourante ne semble plus contester que cette convention collective ne liait pas l'intimée. Et il a été retenu, sans arbitraire, que l'instruction n'avait pas établi que cette indemnité serait généralisée dans le Canton de Vaud. Le grief n'a plus aucune substance.
8. La recourante se prévaut pour finir d'une violation de l'art. 17 al. 2 LTr (recte: 17b al. 2 LTr). Elle allègue que la cour cantonale n'a pas examiné la question du temps de repos compensatoire instauré par cette norme impérative, qui entraîne des effets obligatoires en droit privé s'agissant de la protection des travailleurs. En vertu du temps de repos compensatoire dont elle a été indûment privée, la recourante devait avoir droit à l'allocation d'une indemnité en argent.
8.1 D'après l'art. 17b al. 2 LTr, le travailleur qui effectue un travail de nuit régulièrement ou périodiquement a droit à une compensation en temps équivalant à 10 % de la durée de ce travail. Ce temps de repos compensatoire doit être accordé dans le délai d'une année. La compensation peut cependant être accordée sous forme de supplément salarial au travailleur dont le travail régulièrement fourni au début ou à la fin du travail de nuit n'excède pas une heure.
L'art. 17b al. 1 LTr dispose que le travailleur qui effectue un travail de nuit à titre temporaire a droit à un supplément de salaire d'au moins 25%. Dans le cas présent, il n'est pas contesté que la recourante a été engagée pour un travail se déroulant régulièrement la nuit. Vu le nombre d'heures annuelles pendant lesquelles elle a travaillé - lesquelles représentaient plus de 25 nuits par année civile -, elle était réputée opérer un travail de nuit régulier (cf. art. 31 al. 1 de l'Ordonnance 1 du 10 mai 2000 relative à la loi sur le travail; OLT 1, RS 822.111). L'art. 17b al. 1 LTr ne lui est ainsi pas applicable.
La doctrine est d'avis que lorsque l'autorisation a été donnée pour un travail de nuit régulier (cf. art. 17 al. 1 et 2 LTr), le travailleur n'a pas droit à un supplément quelconque de salaire, car le salaire convenu entre les parties est alors présumé tenir déjà compte des désavantages entraînés par le travail de nuit (CHRISTIAN FAVRE ET AL., Le contrat de travail, Code annoté, 2e éd. 2010, n° 1.1 ad art. 17b LTr et les références à des décisions cantonales, p. 566; STÖCKLI/SOLTERMANN, in Geiser/von Kaenel/Wyler (éd.), Loi sur le travail, 2005, n° 1 ad art. 17b LTr, note infrapaginale 1 et la référence à un précédent jurassien, p. 279).
Cette opinion est convaincante. En effet, lorsque le travailleur sait qu'il sera amené à travailler régulièrement la nuit, il lui est en principe possible de négocier avec l'employeur, avant d'être engagé, un salaire amélioré devant compenser les inconvénients d'un travail de cette nature. Il ne serait pas à même de le faire en cas de travail de nuit temporaire, qui n'est autorisé qu'au cas par cas, exceptionnellement, à savoir en cas de besoin urgent de l'employeur dûment établi (art. 17 al. 3 LTr).
Le grief pris d'une transgression de l'art. 17b al. 2 LTr est infondé.
9. En définitive, le recours doit être rejeté dans la mesure de sa recevabilité.
La recourante, qui succombe, paiera les frais judiciaires et versera à l'intimée une indemnité à titre de dépens (art. 66 al. 1 et 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 3'500 fr., sont mis à la charge de la recourante.
3. La recourante versera à l'intimée une indemnité de 4'000 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux mandataires des parties et à la Chambre des recours du Tribunal cantonal du canton de Vaud.
Lausanne, le 11 septembre 2012
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
Le Greffier: Ramelet