Faits:
A. Par contrat de travail daté du 7 juillet 2006, la société suisse X._ SA a engagé Y._, domiciliée à Lausanne, en qualité de "Assistant to General Manager" à partir du 1er juin 2006. L'employée devait s'occuper de la gestion administrative ainsi que du personnel d'un restaurant à Lausanne; elle a expliqué qu'elle accueillait également des clients et donnait parfois des coups de main pour le service. Le contrat était soumis à la Convention collective nationale de travail pour les hôtels, restaurants et cafés (ci-après: CCNT). Il prévoyait un salaire mensuel brut fixe de 4'600 fr., qui a été augmenté à 5'000 fr. dès novembre 2006, avec un 13ème salaire. La durée hebdomadaire moyenne de travail était fixée à 41 heures.
Les fiches de salaire remises à l'employée indiquaient le solde des jours de vacances, des jours de congé et des jours fériés.
Le 27 avril 2007, X._ SA a résilié le contrat de travail avec effet au 31 mai 2007 en raison d'une restructuration.
B. Le 30 juillet 2007, Y._ a saisi le Tribunal des prud'hommes de l'arrondissement de Lausanne d'une demande en paiement à l'encontre de X._ SA, réclamant à cette dernière la somme totale de 14'759 fr. 25 en capital, correspondant à un solde de vacances, de jours de congé, de jours fériés, au 13ème salaire pro rata temporis et à des heures supplémentaires. La défenderesse s'est opposée totalement à la demande et a conclu reconventionnellement au paiement de 14'576 fr. 40 en capital correspondant à des consommations au restaurant que l'employée n'aurait pas payées.
En cours d'instance, l'employeur a admis la prétention pour le 13ème salaire pro rata temporis et il a par ailleurs réduit sa demande pour les consommations prétendument non payées à 9'600 fr.
Par jugement du 29 janvier 2008, le Tribunal des prud'hommes a condamné X._ SA à payer à Y._ la somme de 9'075 fr. 85 avec intérêts, sous déduction des charges sociales et conventionnelles usuelles, rejetant par ailleurs toute autre prétention. Il a considéré que les preuves nécessaires n'avaient pas été apportées en ce qui concerne les heures supplémentaires invoquées et la prétention reconventionnelle pour des consommations impayées. Il a en revanche admis que l'employée avait droit au paiement du solde des jours de vacances, repos et fériés selon le décompte joint à la demande.
Statuant sur recours de l'employeur le 3 octobre 2008, la Chambre des recours du Tribunal cantonal vaudois, adoptant par ailleurs l'argumentation des premiers juges, a réduit le montant alloué à 5'165 fr. 65 en capital, en considérant qu'il fallait se fonder sur le dernier décompte récapitulatif produit par l'employée, et non pas sur le décompte de salaire de mai 2007 annexé à la demande.
C. X._ SA a déposé un recours en matière civile au Tribunal fédéral contre l'arrêt du 3 octobre 2008. Invoquant exclusivement l'interdiction de l'arbitraire, elle conclut, sous suite de dépens, à ce qu'il soit constaté que c'est l'employée qui est sa débitrice de la somme de 8'516 fr.60 avec intérêts à 5% l'an dès le 1er juin 2007; subsidiairement, elle demande l'annulation de l'arrêt attaqué et le renvoi de la cause à l'autorité de dernière instance cantonale, voire à l'autorité de première instance.
L'intimée a conclu au rejet du recours sous suite de frais et dépens.
Considérant en droit:
1. 1.1 Le Tribunal fédéral examine librement et d'office la recevabilité des recours qui lui sont soumis (ATF 134 III 115 consid. 1 p. 117, 235 consid. 1 p. 236, 379 consid. 1 p. 381, 426 consid. 1 p. 428, 520 consid. 1 p. 521).
1.2 Dans le domaine du droit du travail, la valeur litigieuse minimale permettant de former un recours en matière civile au Tribunal fédéral est fixée à 15'000 fr. (art. 74 al. 1 let. a LTF). S'agissant d'un recours contre une décision finale, la valeur litigieuse doit être déterminée en fonction des dernières conclusions prises devant l'autorité précédente (art. 51 al. 1 let. a LTF). Dans le calcul, il ne faut prendre en considération que les demandes en capital, et non pas les intérêts, les frais judiciaires ou les dépens (art. 51 al. 3 LTF). En l'espèce, ni la demande principale (portant sur un montant en capital de 9'075 fr.85 entièrement contesté), ni la demande reconventionnelle (portant sur un montant en capital de 8'516 fr.60 entièrement contesté) n'atteignent le seuil de 15'000 fr. Contrairement à ce que pense la recourante, le montant de la demande principale et celui de la demande reconventionnelle ne s'additionnent pas (art. 53 al. 1 LTF). Il en résulte que le recours en matière civile est irrecevable.
L'erreur de la recourante ne prête cependant pas à conséquence, puisque le recours, fondé sur l'interdiction de l'arbitraire (art. 9 Cst.), peut être converti en un recours constitutionnel subsidiaire (cf. ATF 134 III 379 consid. 1.2 p. 382).
1.3 Interjeté par la partie qui a succombé dans ses conclusions libératoires et reconventionnelles et qui a donc un intérêt juridique à l'annulation ou la modification de la décision attaquée (art. 115 let. b LTF), le recours, déposé dans le délai (art. 117, 100 al. 1 et 45 al. 1 LTF) et dans la forme (art. 42 LTF) prévus par la loi, est en principe recevable, puisqu'il est dirigé contre un jugement final (art. 117 et 90 LTF) rendu par une autorité cantonale de dernière instance (art. 114 et 75 LTF), et que le recours ordinaire n'est pas ouvert en raison d'une valeur litigieuse insuffisante (art. 113 LTF).
1.4 Le recours ne peut être interjeté que pour violation des droits constitutionnels (art. 116 LTF). Dans un tel recours, il n'est pas possible d'invoquer n'importe quelle violation du droit prévue par les art. 95 et 96 LTF, ni de faire valoir un établissement inexact des faits aux conditions de l'art. 97 LTF. Le Tribunal fédéral n'applique pas le droit d'office contrairement à la règle générale de l'art. 106 al. 1 LTF (ATF 133 III 585 consid. 4.1 p. 588 s.). Il ne peut examiner que les griefs d'ordre constitutionnel qui ont été invoqués et suffisamment motivés par la partie recourante (art. 117 et 106 al. 2 LTF). Cette exigence de motivation correspond à celle que la jurisprudence avait déduite pour le recours de droit public de l'ancien art. 90 al. 1 let. b OJ (ATF 134 III 186 consid. 5 p. 187; 133 III 638 consid. 2 p. 639). La partie recourante doit indiquer, dans l'acte de recours lui-même, quel est le droit constitutionnel qui aurait été violé et montrer, par une argumentation circonstanciée appuyée si possible par des pièces, en quoi consiste la violation du droit constitutionnel (ATF 133 III 585 consid. 4.1 p. 588 s.; 130 I 258 consid. 1.3 p. 261 s.).
1.5 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (art. 118 al. 1 LTF). Il ne peut s'en écarter que si les faits ont été établis en violation d'un droit constitutionnel (art. 118 al. 2 et 116 LTF), ce que la partie recourante doit invoquer avec précision (art. 117 et 106 al. 2 LTF). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (art. 117 et 99 al. 1 LTF).
1.6 Le Tribunal fédéral ne peut aller au-delà des conclusions des parties (art. 117 et 107 al. 1 LTF). Toute conclusion nouvelle est irrecevable (art. 117 et 99 al. 2 LTF).
2. 2.1 En l'espèce, la recourante invoque exclusivement l'interdiction de l'arbitraire figurant à l'art. 9 Cst.
Selon la jurisprudence, l'arbitraire ne résulte pas du seul fait qu'une autre solution pourrait entrer en considération ou même qu'elle serait préférable; le Tribunal fédéral n'annulera la décision attaquée que lorsque celle-ci est manifestement insoutenable, qu'elle se trouve en contradiction claire avec la situation de fait, qu'elle viole gravement une norme ou un principe juridique indiscuté, ou encore lorsqu'elle heurte de manière choquante le sentiment de la justice et de l'équité; pour qu'une décision soit annulée pour cause d'arbitraire, il ne suffit pas que la motivation formulée soit insoutenable, il faut encore que la décision apparaisse arbitraire dans son résultat (ATF 134 I 140 consid. 5.4 p. 148, 263 consid. 3.1 p. 265 s.; 133 I 149 consid. 3.1 p. 153).
S'agissant plus précisément de l'appréciation des preuves et de l'établissement des faits, il y a arbitraire lorsque l'autorité ne prend pas en compte, sans aucune raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des constatations insoutenables (ATF 129 I 8 consid. 2.1 p. 9).
2.2 Concernant les heures supplémentaires dont l'intimée réclamait initialement le paiement, il faut rappeler à ce sujet qu'il incombe au travailleur de prouver toutes les circonstances de fait permettant de constater son droit à la rémunération d'heures supplémentaires (ATF 128 III 271 consid. 3a/aa p. 279; Wyler, Droit du travail, 2e éd. 2008, p. 132; Aubert, Commentaire romand, n° 16 ad art. 321c CO). En l'espèce, l'autorité de première instance a constaté que l'intimée n'était pas parvenue à apporter les preuves nécessaires. Comme elle n'a pas recouru, cette question n'est plus litigieuse.
Quant au 13ème salaire, en tant qu'élément du salaire convenu (cf. Wyler, op. cit., p. 165; Aubert, op. cit., n° 2 ad art. 322d), la recourante ne conteste plus, dès le stade de la première instance, qu'il soit dû pro rata temporis, de sorte que ce poste n'est plus litigieux.
2.3 En revanche, le litige subsiste en ce qui concerne le paiement des jours de vacances (art. 329a à 329d CO), des jours de congé (art. 329 CO) et des jours fériés (sur cette notion: Aubert, op. cit., n° 8 ad art. 329a) que l'intimée n'a pas pu prendre.
En cette matière, il incombe au travailleur de prouver l'existence d'un accord contractuel lui donnant droit aux jours de vacances ou de congé qu'il invoque (pour autant que le droit ne découle pas d'une disposition impérative), ainsi que la durée effective du rapport de travail donnant naissance aux prétentions qu'il fait valoir (ATF 128 III 271 consid. 2a/bb p. 274). En l'espèce, il ne s'élève cependant aucune contestation sur le nombre de jours de vacances, de jours de congé ou de jours fériés qui étaient contractuellement dus; la durée du rapport de travail n'est pas non plus litigieuse. Dès lors que l'obligation d'accorder ces temps libres rémunérés a été dûment établie, il incombe à l'employeur de prouver qu'il s'est libéré de son obligation, c'est-à-dire qu'il a accordé effectivement au travailleur le temps libre rémunéré qui lui était dû (ATF 128 III 271 consid. 2a/bb p. 274; Aubert, op. cit., n° 7 ad art. 329a CO). Il s'agit d'une application du principe général selon lequel il incombe au débiteur de prouver les faits permettant de constater qu'il s'est exécuté ou qu'il est survenu des faits libératoires (ATF 128 III 271 consid. 2a/aa p. 273 s.; 125 III 78 consid. 3b p. 80). La convention collective de travail applicable obligeait d'ailleurs l'employeur à établir un système strict et contradictoire de contrôle des heures de travail effectuées (art. 15 CCNT).
La recourante soutient que les chiffres admis par la cour cantonale ne sont pas fiables parce qu'ils reposent sur des données fournies par l'intimée elle-même, en sa qualité de responsable administrative du personnel, quand bien même ces données ont été reprises par la fiduciaire. Elle ne peut cependant s'en prendre qu'à elle-même si elle n'a pas mis en place une organisation - comme cela lui incombait - permettant de contrôler les jours et heures de travail de son employée.
La recourante soutient que son employée a compté des heures de travail pendant une période où elle était absente à la suite d'un accident. L'existence de cet accident ne ressort pas de l'état de fait contenu dans la décision attaquée, qui lie le Tribunal fédéral (art. 105 al. 1 LTF). A l'appui de son grief, la recourante n'apporte aucune pièce susceptible de démontrer l'existence de cet accident (art. 42 al. 1 et 3 LTF); elle ne cite même pas avec précision la pièce qui permettrait de constater que des heures de travail ont été retenues pendant cette période. De surcroît, la recourante ne traite pas du tout du droit au salaire en cas d'empêchement du travailleur au sens de l'art. 324a CO. L'argumentation présentée est totalement lacunaire et impropre à démontrer l'arbitraire.
La recourante fait aussi valoir que des erreurs se seraient glissées sur des dates ou des chiffres, mais elle ne dit pas comment la vérité pourrait être rétablie. En particulier, elle ne prétend pas avoir sollicité en temps utile une expertise comptable et n'invoque pas une violation du droit d'être entendue (art. 29 al. 2 Cst.), de sorte qu'il n'y a pas à examiner la cause sous cet angle (art. 106 al. 2 LTF). Que des heures effectuées en dehors de l'horaire habituel soient ensuite compensées ou que des fiches de contrôle personnelles soient erronées ne permet pas encore de conclure qu'il est arbitraire de croire le dernier décompte rectifié (et réduit) présenté par l'intimée.
En se fondant elle-même sur des données fournies par l'intimée dont elle conteste pourtant la fiabilité, la recourante oppose son propre décompte à celui établi par l'intimée. Si l'on doit admettre - comme le soutient la recourante - que les données de base sont incertaines, on ne voit pas en quoi ce décompte serait plus fiable que l'autre. En tout cas, la recourante ne parvient pas à démontrer l'arbitraire par une motivation appropriée.
Les arguments soulevés par la recourante tendent tous à produire un sentiment de confusion et de grande incertitude sur les chiffres retenus par la cour cantonale. La recourante a cependant perdu de vue les règles sur le fardeau de la preuve. C'était à elle qu'il incombait de prouver que son employée avait pu prendre plus de temps libre qu'elle ne l'admettait elle-même. Les incertitudes ou erreurs invoquées par la recourante ne font pas apparaître comme arbitraire la conclusion de la cour cantonale selon laquelle l'employeur n'est pas parvenu à prouver que l'employée avait pu prendre plus de temps de repos qu'elle ne l'admettait elle-même dans son décompte rectifié, aboutissant à la prétention la plus basse.
On ne voit donc pas que la décision attaquée puisse être qualifiée d'arbitraire sur ce point.
2.4 La recourante se plaint aussi du rejet de sa demande reconventionnelle dans laquelle elle réclamait paiement de consommations que l'intimée aurait prises au restaurant.
En tant que partie demanderesse, il lui incombait de prouver les faits permettant de constater l'existence de la créance invoquée (art. 8 CC).
La recourante admet elle-même que les dépenses invoquées ont été faites à l'aide d'une clé informatique qui était à la disposition de plusieurs employés, de sorte qu'elle n'est pas en mesure de dire quelles sont les dépenses effectuées par l'intimée personnellement. Elle admet ainsi qu'elle n'a pas pu apporter la preuve qui lui incombait.
La recourante se prévaut d'un aveu de l'intimée intervenu en cours de procédure. L'aveu ne peut cependant pas être divisé de cette manière. Il ressort de l'arrêt attaqué (qui lie le Tribunal fédéral: art. 105 al. 1 LTF) que l'intimée a admis avoir utilisé la clé pour des consommations de l'ordre de 600 fr. à 1'000 fr. par mois, mais en ajoutant que ces dépenses étaient justifiées par les nécessités du travail confié (arrêt attaqué p. 11). Selon la recourante, aucune des consommations avouées par l'intimée n'était justifiée par son travail. Cependant, si aucune de ces dépenses n'était tolérée, on ne comprend pas pourquoi l'employeur est resté sans réagir alors qu'il s'agissait tout de même - selon la recourante - d'un montant de l'ordre de 800 fr. par mois pendant près d'une année. De l'absence de réaction de la recourante, la cour cantonale pouvait déduire, sans arbitraire, que ces dépenses étaient en réalité acceptées par l'employeur.
Sous cet angle également, on ne discerne pas d'arbitraire.
3. Les frais judiciaires sont mis à la charge de la partie qui succombe (art. 66 al. 1 LTF). L'émolument est réduit pour tenir compte du montant de la demande initiale (art. 65 al. 4 let. c LTF; ATF 115 II 30 consid. 5b p. 41; arrêt 4A_510/2007 du 27 février 2008 consid. 9). Le recourant n'a pas à verser de dépens (cf. art. 68 LTF) à l'intimée, celle-ci n'ayant pas été représentée par un avocat (art. 40 LTF; ATF 133 III 439 consid. 4 p. 446) et n'ayant pas établi avoir assumé des frais particuliers pour la défense de ses intérêts (cf. ATF 125 II 518 consid. 5b p. 519 s.).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours en matière civile est irrecevable.
2. Traité en tant que recours constitutionnel subsidiaire, il est rejeté dans la mesure où il est recevable.
3. Les frais judiciaires, fixés à 500 fr., sont mis à la charge de la recourante.
4. Il n'est pas alloué de dépens.
5. Le présent arrêt est communiqué aux parties et à la Chambre des recours du Tribunal cantonal du canton de Vaud.
Lausanne, le 26 février 2009
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Le Greffier:
Klett Piaget