Faits:
A. A.a Par contrat de travail signé le 19 mai 2008, X._ Sàrl (ci-après: X._), à ... (Vaud), a engagé dès cette date Y._ en qualité de « Manager Courtage Individuelle » (sic) pour une durée indéterminée. Il était prévu un délai de résiliation, après le temps d'essai, d'un mois pour la fin d'un mois au cours de la première année de service et de deux mois par la suite.
La rémunération de la travailleuse reposait exclusivement sur des commissions calculées à partir des polices d'assurance qu'elle concluait, au nom de son employeur, avec des compagnies liées à ce dernier par des conventions de collaboration. L'art. 7 de l'accord stipulait que la collaboratrice percevait 85% des commissions d'acquisition sur les affaires conclues par ses soins et qu'elle touchait une commission complémentaire sur la production des agents travaillant sous ses ordres. L'art. 8 de la convention prévoyait la constitution d'un fonds de ristourne, d'une valeur de 20'000 fr., pour garantir les éventuels retours de commissions entraînés par des annulations de polices d'assurance; X._ devait ainsi prélever 10% des commissions brutes jusqu'au montant maximum précité, placer les fonds sur un compte bancaire au nom de la société, « mais totalement consacré .. (à) la collaboratrice », et les restituer, plus les intérêts, à cette dernière au plus tard trois ans après la fin des rapports de travail.
D'après les fiches de salaire de la travailleuse, celle-ci a perçu de juin 2008 à novembre 2008 un salaire brut global de 41'986 fr.70, dont a été retenu un montant net de 4'263 fr.80 destiné à la constitution du fonds de ristourne. En décembre 2008, la travailleuse n'a pas touché de rémunération. A partir du début 2009, X._ n'a plus délivré de fiches de salaire à la travailleuse, mais celle-ci a reconnu avoir encaissé un montant brut de 8'747 fr.95 pendant cette année. La rémunération brute perçue par l'employée pendant son engagement s'est ainsi élevée à 50'734 fr.65 (41'986,70 + 8'747,95).
A.b Les relations entre les parties se sont détériorées dès décembre 2008. Il a notamment été retenu que l'employeur usait de prétextes pour éviter toute entrevue avec l'employée, laquelle contestait le décompte des commissions dues.
Par courrier du 27 avril 2009, Y._ a résilié son contrat de travail et exprimé le souhait que le congé soit effectif au 30 avril 2009. L'employeur n'ayant pas réagi à ce courrier, il a été retenu que les rapports de travail ont pris fin le 31 mai 2009.
Le 6 mai 2009, Y._ a constitué la société V._ Sàrl, sise à ... (Vaud), dont le but était d'effectuer des opérations de courtage et de conseil dans toute branche économique; la précitée a été inscrite comme associée gérante avec signature individuelle. Y._, au travers de cette personne morale, a exercé la même activité que celle déployée pour X._, concluant des polices d'assurances pour les compagnies avec lesquelles son ancien employeur collaborait. Dès le mois de juin 2009, Y._ a perçu de ladite société un salaire mensuel brut de 10'000 fr.
Le 11 mai 2009, Y._ a écrit à X._ pour notamment lui réclamer une somme brute de 15'000 fr. environ dont elle requérait le paiement dans les trente jours.
Aucun montant n'a été versé à la travailleuse.
B. B.a Par demande du 13 août 2009, Y._ a ouvert action contre X._ devant le Tribunal de prud'hommes de l'arrondissement de Lausanne, concluant à ce que la défenderesse soit condamnée à lui verser la somme de 30'000 fr. avec intérêts à 5% l'an dès le 30 avril 2009 et à lui remettre un certificat de travail.
La défenderesse a conclu au déboutement de la demanderesse et invoqué, en tant que de besoin, la compensation.
En cours d'instance, le 7 décembre 2009, la demanderesse a produit un tableau des affaires qui donnaient droit à commissions, conclues par son entremise pour X._ entre mars 2008 et mars 2009, représentant un montant total de 93'586 fr.40.
Par jugement du 27 juillet 2010, communiqué le 19 juillet 2011, le tribunal de prud'hommes a déclaré la défenderesse débitrice de la demanderesse de la somme brute de 13'788 fr.30, avec intérêts à 5% l'an dès le 30 avril 2009, à titre des commissions dues à la travailleuse et de la somme nette de 4'263 fr.80, avec les mêmes intérêts, pour des réserves retenues sans droit, dès l'instant où la défenderesse n'avait jamais constitué le fonds de ristourne prévu contractuellement.
B.b Saisie d'un appel formé par la défenderesse, qui concluait à sa libération, et d'un appel joint formé par la demanderesse, qui reprenait ses conclusions de première instance, la Cour d'appel civile du Tribunal cantonal vaudois, par arrêt du 14 mai 2012, a partiellement admis tant l'appel que l'appel joint et réformé le jugement attaqué en ce sens que la défenderesse a été condamnée au versement à son adverse partie de la somme brute de 21'026 fr.80, plus intérêts à 5% l'an dès le 30 avril 2009, dont à déduire les cotisations sociales légales et conventionnelles, et de la somme nette de 4'263 fr.80, avec les mêmes intérêts, le jugement attaqué étant confirmé pour le surplus.
En substance, la cour cantonale a retenu, d'une part, que les affaires donnant droit à commissions, qui résultaient du tableau produit par la travailleuse devant les premiers juges, atteignaient la somme de 93'586 fr.40 et, d'autre part, que la somme à ristourner à l'employeur par cette dernière - pour des polices d'assurance annulées par les clients - était de 15'653 fr. En fonction de la différence entre ces deux montants, donnant la somme de 77'933 fr.40, elle a fixé le revenu dû à la demanderesse à 66'243 fr.40 (85% de 77'933, 40). Avec le salaire afférent aux vacances restant dû, par 5'518 fr.05 (8,33% de 66'243 fr.40 [et non 8,33% de 79'548 fr. comme retenu en première instance]), le montant brut dû à la travailleuse par l'employeur se montait à 71'761 fr.45 (66'243,40 + 5'518,05). La demanderesse ayant reçu au cours de son engagement la somme totale brute de 50'734 fr.65, la défenderesse restait lui devoir une rémunération brute de 21'026 fr.80 (71'761,45 - 50'734,65). La cour cantonale a admis qu'il n'y avait pas lieu de déduire de cette somme, ainsi que l'avait fait erronément le tribunal de prud'hommes, le montant de 8'346 fr.80 représentant le 15% des commissions encaissées par la travailleuse pour son activité au sein de la société V._ Sàrl, car la demanderesse n'avait pas violé son devoir de fidélité en concluant des contrats d'assurances pour le compte de cette société. L'autorité cantonale a enfin confirmé la condamnation de la défenderesse à payer à la travailleuse le montant de 4'263 fr.80 correspondant à des réserves retenues indûment.
C. X._ exerce un recours en matière civile au Tribunal fédéral contre l'arrêt précité. Elle conclut principalement au rejet de toutes les conclusions de la demanderesse, et, subsidiairement, à l'annulation de l'arrêt du 14 mai 2012 et au renvoi de la cause à la cour cantonale pour nouvelle instruction et nouveau jugement au sens des considérants.
L'intimée propose le rejet du recours.
La requête d'effet suspensif présentée par la recourante a été rejetée par ordonnance présidentielle du 16 juillet 2012.
Considérant en droit:
1. 1.1 Interjeté par la partie défenderesse qui a très largement succombé dans ses conclusions libératoires et qui a ainsi la qualité pour recourir (art. 76 al. 1 LTF), dirigé contre un arrêt final (art. 90 LTF) rendu en matière civile (art. 72 al. 1 LTF) par un tribunal supérieur statuant sur recours en dernière instance cantonale (art. 75 LTF) dans une affaire pécuniaire dont la valeur litigieuse atteint le seuil de 15'000 fr. requis en droit du travail (art. 74 al. 1 let. a LTF), le recours est par principe recevable, puisqu'il a été déposé dans le délai (art. 100 al. 1 LTF) et la forme (art. 42 LTF) prévus par la loi.
1.2 Le recours en matière civile peut être interjeté pour violation du droit fédéral (art. 95 let. a LTF), y compris le droit constitutionnel (ATF 136 I 241 consid. 2.1 p. 247; 136 II 304 consid. 2.4 p. 313). Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Il n'est pas limité par les arguments soulevés dans le recours ni par la motivation retenue par l'autorité précédente; il peut donc admettre un recours pour d'autres motifs que ceux qui ont été articulés, ou à l'inverse, rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (ATF 137 II 313 consid. 1.4 p. 317 s.; 135 III 397 consid. 1.4 et l'arrêt cité). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (art. 108 al. 1 let. b LTF), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui (ATF 137 III 580 consid. 1.3 p. 584; 135 II 384 consid. 2.2.1 p. 389; 135 III 397 consid. 1.4). Par exception à la règle selon laquelle il applique le droit d'office, il ne peut entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal que si le grief a été invoqué et motivé de manière précise par la partie recourante (art. 106 al. 2 LTF; ATF 135 III 397 consid. 1.4 in fine).
1.3 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si les constatations factuelles de l'autorité cantonale ont été établies de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire (ATF 137 I 58 consid. 4.1.2 p. 62; 137 II 353 consid. 5.1 p. 356) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF).
La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'art. 105 al. 2 LTF seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (ATF 137 II 353 consid. 5.1 p. 356; 136 I 184 consid. 1.2 p. 187). Une rectification de l'état de fait ne peut être demandée que si elle est susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF).
1.4 Le Tribunal fédéral ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF). Toute conclusion nouvelle est irrecevable (art. 99 al. 2 LTF).
2. Il est constant que les parties ont été liées, du 19 mai 2008 au 31 mai 2009, par un contrat individuel de travail (art. 319 CO) et que la rémunération de la travailleuse avait lieu par le paiement de provisions liées à l'activité qu'elle déployait pour la recourante dans le cadre de la conclusion de contrats d'assurance (cf. art. 322b et 322c CO).
3. La recourante soutient tout d'abord qu'à deux égards l'établissement des faits serait inexact, c'est-à-dire arbitraire, et que les preuves auraient été appréciées de manière insoutenable.
S'agissant d'un grief de nature constitutionnelle, il appartient à la partie recourante de démontrer l'arbitraire par une argumentation répondant aux exigences de l'art. 106 al. 2 LTF (ATF 137 I 58 consid. 4.1.2 p. 62; 133 II 249 consid. 1.4.3 p. 254 s.).
Selon la jurisprudence, l'arbitraire, prohibé par l'art. 9 Cst., ne résulte pas du seul fait qu'une autre solution pourrait entrer en considération ou même qu'elle serait préférable; le Tribunal fédéral n'annulera la décision attaquée que lorsque celle-ci est manifestement insoutenable, qu'elle se trouve en contradiction claire avec la situation de fait, qu'elle viole gravement une norme ou un principe juridiques indiscutés, ou encore lorsqu'elle heurte de manière choquante le sentiment de la justice et de l'équité. Pour qu'une décision soit annulée pour cause d'arbitraire, il ne suffit pas que la motivation formulée soit insoutenable, il faut encore que la décision apparaisse arbitraire dans son résultat (ATF 137 I 1 consid. 2.4 p. 5; 136 I 316 consid. 2.2.2 p. 318/319; 136 III 552 consid. 4.2 p. 560).
Concernant l'appréciation des preuves, la décision n'est arbitraire que si le juge n'a manifestement pas compris le sens et la portée d'un moyen de preuve, s'il a omis, sans raison sérieuse, de tenir compte d'un moyen important propre à modifier la décision attaquée ou encore si, sur la base des éléments recueillis, il a fait une déduction insoutenable (ATF 137 I 58 consid. 4.1.2 p. 62 136 III 552 consid. 4.2 p. 560; 134 V 53 consid. 4.3).
3.1 La recourante soutient que la cour cantonale a versé dans l'arbitraire en retenant que le total des affaires susceptibles de donner lieu au paiement de commissions, avant calcul des sommes à ristourner, représente le montant de 93'586 fr.40. Cette constatation reposerait sur une simple allégation de l'intimée. Elle serait en outre contredite par les décomptes d'affaires et de ristournes produits par la travailleuse (pièces 36 à 39) et par les soldes de commissions à payer au 31 décembre 2009 reconnus par la défenderesse, dont la demanderesse a repris les montants dans sa pièce 40.
Il a été retenu, sans que l'arbitraire soit invoqué à ce propos, que l'intimée a produit le 7 décembre 2009 devant le tribunal de prud'hommes un tableau des affaires ayant généré des commissions, conclues par ses soins pour le compte de la recourante entre mars 2008 et mars 2009, qui indiquait un montant total de 93'586 fr.40. Dans l'arrêt déféré, la cour cantonale a expliqué qu'elle a procédé, par pointages, à une comparaison entre les affaires indiquées par l'intimée sur ce tableau et celles ressortant des décomptes des assureurs versés au dossier, pour constater que les données concordaient. On voit donc que la constatation incriminée résulte d'une appréciation globale d'un ensemble de documents produits au dossier, et nullement d'une allégation de la demanderesse. La recourante n'a pas tenté de démontrer qu'il était insoutenable de comparer les données en cause et d'admettre qu'elles concordaient. Quant aux pièces 36 à 39 de la demanderesse, l'autorité cantonale a affirmé qu'elles portaient uniquement sur une partie des affaires conclues par celle-ci, soit celles passées avec les assurances A._, B._ et C._. Or la recourante n'a même pas prétendu que l'intimée n'avait traité qu'avec ces trois assureurs. En ce qui concerne la pièce 40, elle ne mentionne que les commissions dont la recourante reconnaît devoir paiement à la travailleuse, mais pas toutes celles dont cette dernière requiert le versement, comme l'a admis sans le moindre arbitraire la Cour d'appel.
Le moyen doit être rejeté en tant qu'il est recevable.
3.2 Pour la recourante, les magistrats vaudois auraient retenu de manière indéfendable que l'intimée n'a pas déployé avant le 31 mai 2009, date de la fin de son contrat de travail, pour son propre compte ou celui d'un tiers, des activités concurrentes à celles de son ancien employeur. Elle fait valoir que l'intimée a constitué la société V._ Sàrl le 6 mai 2009 et que la convention conclue par cette société avec l'assureur D._ est entrée en vigueur le 1er mai 2009. Elle se réfère également aux pièces 29 à 31 de la demanderesse, qui indiqueraient que « d'innombrables propositions ont bel et bien été faites dans la période antérieure au 31 mai 2009, soit concrètement à partir du mois de novembre 2008 ».
S'il est vrai que l'intimée a fondé V._ Sàrl le 6 mai 2009, avant la fin des rapports contractuels noués avec la recourante, la cour cantonale a retenu - sans se voir reprocher l'arbitraire - que la première n'a perçu son premier salaire de cette société qu'à la fin juin 2009. Il n'était donc pas insoutenable d'admettre que c'est à partir du 1er juin 2009 que la demanderesse a exercé une activité de prospection d'assurances pour ladite société. En ce qui concerne la convention conclue avec D._, entrée en vigueur le 1er mai 2009, les juges cantonaux ont constaté, sans que l'arbitraire soit invoqué, qu'elle n'avait donné lieu à aucune signature de contrat durant le mois de mai 2009. La recourante ne peut ainsi rien tirer de la date d'entrée en vigueur de cette convention.
Les pièces 29, 30 et 31 de la demanderesse sont toutes trois de volumineux décomptes de commissions émanant de V._ Sàrl, afférents à divers assureurs, décomptes qui comportent chacun au moins 25 pages et de nombreux tableaux de chiffres. La recourante n'indique pas les pages précisément désignées de ces pièces, qui établiraient que la demanderesse a exercé en faveur de V._ Sàrl une activité pouvant concurrencer le domaine d'activité de son ancien employeur, cela pendant la durée des rapports de travail avec celui-ci. La recourante se méprend totalement sur le rôle du Tribunal fédéral, qui n'est pas une autorité d'appel, si elle croit qu'il va de lui-même effectuer de longues et fastidieuses vérifications pour remédier à la carence d'un plaideur. Ce pan du grief est irrecevable (art. 106 al. 2 LTF).
Le moyen est infondé dans la mesure de sa recevabilité.
4. La recourante allègue ensuite que la cour cantonale a enfreint l'art. 8 CC en retenant, sur la base d'une simple vraisemblance, le chiffre d'affaires donnant lieu à paiement de commissions, par 93'586 fr.40. L'autorité cantonale aurait également méconnu les règles sur le fardeau de la preuve en retenant, au bénéfice de la demanderesse, un fait non prouvé qu'il lui appartenait d'établir.
4.1 Pour toutes les prétentions relevant du droit privé fédéral (cf. ATF 125 III 78 consid. 3b), l'art. 8 CC répartit le fardeau de la preuve (ATF 122 III 219 consid. 3c) - en l'absence de disposition spéciale contraire - et détermine, sur cette base, laquelle des parties doit assumer les conséquences de l'échec de la preuve (ATF 130 III 321 consid. 3.1 p. 323; 129 III 18 consid. 2.6; 127 III 519 consid. 2a). Cette disposition ne prescrit cependant pas quelles sont les mesures probatoires qui doivent être ordonnées (ATF 127 III 519 consid. 2a), pas plus qu'elle ne dicte au juge comment forger sa conviction (ATF 128 III 22 consid. 2d p. 25; 127 III 248 consid. 3a, 519 consid. 2a). Autrement dit, lorsque l'appréciation des preuves convainc le juge qu'une allégation de fait a été prouvée ou réfutée, la règle de décision est écartée et la question de la répartition du fardeau de la preuve ne se pose plus, de sorte que le grief de l'art. 8 CC n'a plus d'objet (ATF 122 III 219 consid. 3c p. 223-224).
4.2 En l'espèce, comme on l'a vu ci-dessus, l'autorité cantonale a retenu le chiffre de 93'586 fr.40, représentant le total des affaires ouvrant le droit à des commissions, en effectuant une comparaison, par pointages, entre les affaires mentionnées par la demanderesse dans son tableau du 7 décembre 2009 et celles résultant des décomptes d'assureurs figurant au dossier. Partant, elle a admis ce chiffre à la suite d'un raisonnement et procédé à une appréciation des preuves ayant conduit à sa conviction. Comme l'art. 8 CC ne prescrit pas comment le juge doit apprécier les preuves ni sur quelles bases il peut parvenir à la conviction qu'il a acquise in casu, le moyen manque entièrement sa cible et doit être rejeté.
5. La recourante prétend que la Cour d'appel a violé son droit à la preuve, qu'elle déduit des art. 29 al. 2 Cst. et 8 CC, concernant le montant des ristournes intervenues postérieurement à la clôture de l'instruction devant le tribunal de prud'hommes. Elle fait valoir que si la cour cantonale estimait que les pièces 106 à 112, qu'elle a produites en appel, ne permettaient pas d'établir la totalité desdites ristournes, elle devait administrer la preuve par expertise, offerte dans son mémoire d'appel.
5.1 En cas de refus d'administrer une preuve, une partie doit s'en plaindre en invoquant une violation de son droit à la preuve. Or le droit à la preuve est régi, dans le domaine du droit privé, par l'art. 8 CC, en tant que disposition spéciale par rapport à l'art. 29 al. 2 Cst. (ATF 4A_228/2012 du 28 août 2012, consid. 2.3 non destiné à la publication; arrêt 5A_726/2009 du 30 avril 2010 consid. 3.1, non publié in ATF 136 III 365; arrêt 5A_620/2007 du 7 janvier 2010 consid. 6.1, publié in SJ 2010 I p. 568).
C'est donc en vain que la recourante se prévaut d'une violation de l'art. 29 al. 2 Cst.
5.2 Pour qu'il y ait violation du droit à la preuve au sens de l'art. 8 CC, il faut que le recourant veuille prouver un fait pertinent, que la mesure probatoire sollicitée ait été régulièrement offerte, qu'elle soit propre à apporter la preuve et que le fait ne soit pas déjà prouvé ou qu'il ne soit pas déjà admis ou écarté à la suite d'une appréciation anticipée des preuves qui ne peut pas être taxée d'arbitraire (ATF 129 III 18 consid. 2.6 p. 24 s. et les arrêts cités). Ainsi, le juge peut renoncer à administrer une preuve lorsque sa conviction est déjà formée sur la base des éléments apportés et qu'il peut admettre sans arbitraire qu'elle ne pourrait pas être ébranlée par le résultat de la mesure probatoire sollicitée (ATF 134 I 140 consid. 5.3 p. 148).
Les juges cantonaux ont expliqué, au considérant 2c in fine de l'arrêt déféré, que les pièces 106 à 112 se rapportaient à des affaires conclues en 2009 et 2010, alors que l'intimée ne travaillait plus pour la recourante. On ne voit pas en quoi ces documents, qui ne concernent en rien les tâches qu'a menées la travailleuse pour son ancien employeur, pourraient apporter des renseignements utiles quant aux ristournes à déduire des montants donnant droit au versement de commissions.
Les mêmes magistrats ont admis (cf. considérant 3c in fine de l'arrêt attaqué) que la quotité des ristournes retenue par le jugement de première instance, à savoir 15'653 fr., était conforme aux pièces du dossier, si bien qu'il ne se justifiait pas d'ordonner une expertise à ce sujet, du reste non requise en première instance. Il appert d'emblée que la mesure probatoire en question n'a pas été régulièrement offerte devant le tribunal de prud'hommes. La recourante n'a d'ailleurs même pas tenté d'affirmer le contraire. De toute manière, la cour cantonale est parvenue à une conviction quant au montant total des ristournes devant être déduites du chiffre d'affaires à partir duquel les commissions sont calculées. Elle pouvait dès lors, sans commettre arbitraire, estimer qu'une expertise était inutile, dès l'instant où la question à résoudre ne nécessite pas des qualifications professionnelles spéciales, ainsi que l'avait déjà remarqué à juste titre le tribunal de prud'hommes.
Le moyen, sous toutes ses facettes, est infondé.
6. A l'appui de son dernier moyen, la recourante invoque en vrac la violation des art. 321b, 423 et 464 al. 2 CO. Elle renvoie à une jurisprudence (ATF 137 III 607), qui aurait été rendue dans une situation analogue. Elle allègue que l'intimée aurait dû être condamnée à lui restituer la totalité du gain qu'elle a réalisé en travaillant indûment pour une entreprise concurrente avant que son contrat de travail avec la défenderesse ait pris fin.
Il a été retenu en fait (art. 105 al. 1 LTF) que l'intimée n'a débuté sa nouvelle activité pour V._ Sàrl qu'après la fin des relations de travail nouées avec la recourante. Cette constatation a résisté à un grief d'arbitraire dans l'établissement des faits (cf. consid. 3.2 ci-dessus). Du moment que la travailleuse n'a pas fait concurrence à son ancien employeur de manière inadmissible pendant la durée des rapports de travail en violation de l'art. 321a al. 3 CO (cf. ATF 137 III 607 consid. 2.4), le précédent invoqué par la recourante, qui envisage ce cas de figure, ne lui est d'aucune utilité.
Le grief n'a pas de consistance en tant qu'il est suffisamment motivé.
7. Il suit de là que le recours doit être rejeté dans la mesure de sa recevabilité. La recourante, qui succombe, paiera l'émolument de justice, réduit en vertu de l'art. 65 al. 4 let. c LTF, et versera à l'intimée une indemnité à titre de dépens (art. 66 al. 1 et 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge de la recourante.
3. La recourante versera à l'intimée une indemnité de 2'500 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux mandataires des parties et au Tribunal cantonal du canton de Vaud, Cour d'appel civile.
Lausanne, le 8 octobre 2012
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
Le Greffier: Ramelet