Faits:
A. Par jugement du 2 septembre 2011, le Tribunal correctionnel de l'arrondissement de Lausanne a condamné X._ pour voies de fait qualifiées (art. 126 al. 1 et 2 lit. a CP) et violation du devoir d'assistance ou d'éducation (<ref-law>) à 60 jours-amende à 40 francs le jour, avec sursis pendant deux ans. Il a par ailleurs déclaré X._ débitrice de Y._ de 3'000 francs à titre d'indemnité pour tort moral. Enfin, il a arrêté les indemnités dues au conseil d'office de la plaignante ainsi qu'à celui de X._ et a mis les frais à la charge de cette dernière.
B. La Cour d'appel pénale du Tribunal cantonal vaudois a rejeté l'appel déposé par la condamnée par jugement du 9 janvier 2012 et a confirmé la décision attaquée. Une indemnité de défenseur d'office pour la procédure d'appel de 1'360 francs a été allouée au conseil de X._ ainsi qu'au conseil de Y._ et les frais d'appel, y compris les deux indemnités précitées, ont été mis à la charge de X._, laquelle ne sera tenue de rembourser ces dernières à l'Etat que lorsque sa situation financière le permettra. Cette condamnation se fonde sur les principaux éléments de fait suivants.
B.a Entre fin 2005 et le 7 mai 2009, X._, née en 1972, a frappé à plusieurs reprises sa fille Y._, née en 1993, qui vivait avec elle. Elle l'a poussée contre les meubles, lui a tiré les cheveux, l'a griffée, l'a menacée de la mettre à la porte, de l'emmener dans un foyer, de lui couper ses habits ou de tuer ses rats. Elle a également exercé une pression psychologique sur sa fille et l'a disputée pour n'importe quel prétexte. Elle lui a répété qu'elle n'était pas chez elle et qu'elle avait l'interdiction de verrouiller la porte de sa chambre ou celle des toilettes. Elle lui a également dit qu'elle allait la placer dans un foyer, ce qui la dispenserait de s'occuper d'elle. Il lui est arrivé quelques fois de la réveiller en pleine nuit pour lui faire des reproches et l'insulter. Ces disputes sont survenues une fois par semaine environ d'abord puis, durant la dernière année de leur vie commune, elles sont devenues quotidiennes. Tous ces actes, pris ensemble, ont entraîné la peur, des difficultés scolaires et une immense souffrance chez Y._.
B.b Celle-ci a été placée dans un foyer, à sa demande, le 7 mai 2009. Depuis cette date, la mère et la fille n'ont plus de contact. Cette dernière a été suivie à la consultation du service de psychiatrie générale du 14 avril 2011 au 15 août 2011.
C. X._ interjette un recours en matière pénale au Tribunal fédéral contre le jugement du 9 janvier 2012. Elle conclut à l'annulation de cette décision visant à son acquittement du chef de violation de l'<ref-law> et au renvoi de la cause à l'autorité cantonale pour nouveau jugement dans le sens des considérants. Elle sollicite l'assistance judiciaire.

Considérant en droit:
1. La recourante invoque l'arbitraire dans l'établissement des faits et l'appréciation des preuves (art. 9 Cst.).
1.1 Le Tribunal fédéral est un juge du droit. Il ne peut revoir les faits établis par l'autorité précédente que si ceux-ci l'ont été de manière manifestement inexacte, c'est-à-dire arbitraire (art. 9 Cst.) et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-law>). On peut renvoyer, sur la notion d'arbitraire, aux principes maintes fois exposés par le Tribunal fédéral (cf. <ref-ruling> consid. 7 p. 82; <ref-ruling> consid. 2.4 p. 5; <ref-ruling> consid. 4.2 p. 560). En bref, pour qu'il y ait arbitraire, il ne suffit pas que la décision attaquée apparaisse discutable ou même critiquable; il faut qu'elle soit manifestement insoutenable et cela non seulement dans sa motivation, mais aussi dans son résultat. Le Tribunal fédéral ne connaît de la violation des droits fondamentaux que si un tel moyen est invoqué et motivé par le recourant (<ref-law>), c'est-à-dire s'il a été expressément soulevé et exposé de manière claire et détaillée (<ref-ruling> consid. 2.2 p. 69; <ref-ruling> consid. 3.2). Les critiques de nature appellatoire sont irrecevables (<ref-ruling> consid. 4.2.3 p. 5; <ref-ruling> c. 5.1 p. 365).
1.2 Pour la cour cantonale, la fille de la recourante avait décrit avec précision la pression durable et constante, devenue insupportable avec le temps, que lui avait fait subir sa mère. L'enfant avait fait état de brimades constantes, de réveils nocturnes, de menaces incessantes et de chantage. Elle avait acquis la conviction que la recourante avait adopté le comportement incriminé, compte tenu des propos tenus par sa fille, de l'émotion qui en ressortait, de la peur qu'elle disait ressentir à la perspective d'une confrontation avec sa mère, de sa réaction de défense consistant à refuser de lui parler et à éprouver le besoin de couper tous les liens avec elle. La cour cantonale s'est aussi fondée sur le témoignage de l'ancien compagnon de la recourante, Z._, qui corroborait la version des faits de Y._. Elle a relevé à ce sujet que les soupçons de liaison formulés par la recourante entre sa fille et Z._ n'étaient nullement établis et ne justifiaient en rien des années de maltraitance.
1.3 La recourante admet avoir insulté sa fille, l'avoir giflée et lui avoir tiré les cheveux à quelques reprises, mais elle conteste l'avoir menacée, l'avoir réveillée durant la nuit, l'avoir poussée contre des meubles ou l'avoir griffée. Elle soutient que sa version des faits devait être retenue de sorte que seules des voies de fait qualifiées pouvaient être retenues à sa charge et qu'elle devait être libérée de l'infraction de violation du devoir d'assistance ou d'éducation.
A l'appui de son grief d'arbitraire, elle soutient que sa fille refusait tout contact avec elle en raison des messages adressés à Z._ qu'elle avait découverts au début de l'année 2009 sur le téléphone portable de celle-ci et dont la teneur lui avait fait suspecter une relation amoureuse entre eux. En outre, si elle avait maltraité sa fille depuis 2005, celle-ci en aurait parlé avant 2009. De plus, sa fille se sentait persécutée par toute personne qui s'opposait à elle, comme par exemple l'assistante sociale du Service de protection de la jeunesse.
Une telle argumentation n'est pas apte à démontrer l'arbitraire dans l'appréciation de la crédibilité des déclarations de la jeune fille pour établir la réalité des faits dénoncés. La recourante se borne en réalité à présenter sa propre appréciation des déclarations de l'intimée sans motiver en quoi celle de l'autorité cantonale serait insoutenable, en particulier quand elle expose les motifs pour lesquels elle considère que les déclarations de l'intimée sont crédibles. Elle méconnaît en outre que la cour cantonale a retenu que les soupçons de liaison entre le compagnon de la mère et sa fille n'étaient pas établis. Un tel procédé, purement appellatoire, est irrecevable. La recourante conteste également que la cour cantonale pouvait retenir que les déclarations de Z._ confirmaient les dires de Y._ tant en ce qui concerne les comportements reprochés que leur fréquence ou leur intensité. Il ressort toutefois du procès-verbal d'audition de l'intéressé par la police, confirmé devant la cour cantonale, que celui-ci a indiqué que la recourante faisait constamment des reproches à sa fille, qui n'étaient pas toujours justifiés, qu'il avait assisté à des épisodes violents qui avaient nécessité qu'il s'interpose, que la mère menaçait sa fille de la mettre à la porte ou de tuer ses rats, qu'elle la giflait et la tirait par les cheveux, qu'elle ne s'occupait pas d'elle et ne lui fixait aucune règle, que Y._ avait peur de sa mère et qu'elles n'avaient plus de contact l'une avec l'autre. Il n'était dès lors pas insoutenable de retenir que les déclarations de Z._ corroboraient les dires de la plaignante. La recourante ne conteste enfin pas que le sentiment de peur que sa fille éprouve à son encontre, son refus de lui parler ou son désir de couper tous les liens avec elle constituent des éléments qui permettaient à la cour cantonale de retenir la version donnée par la plaignante. Le grief d'arbitraire dans l'établissement des faits et l'appréciation des preuves est rejeté dans la mesure ou il est recevable.
1.4 Pour le surplus, la recourante ne soulève aucun grief à l'encontre de la décision attaquée en tant qu'elle a considéré, sur la base des faits constatés, que les conditions d'application de l'<ref-law> étaient réunies. La cour cantonale a correctement exposé et appliqué dans le cas d'espèce les principes relatifs à cette disposition (cf. jugement du 9 janvier 2012 consid. 3.1 et 3.3). Il peut y être renvoyé. L'autorité précédente pouvait donc conclure, sans violation du droit fédéral, que la recourante s'est rendue coupable de violation du devoir d'assistance ou d'éducation.
2. La recourante invoque une violation de l'<ref-law>. Elle conteste que les frais de l'assistance judiciaire gratuite de la plaignante pouvaient être mis à sa charge puisqu'elle a récemment perdu son emploi et n'avait pas encore perçu d'indemnité de chômage en janvier 2012.
2.1 Les frais afférents à la défense d'office du prévenu condamné sont en principe supportés par l'Etat selon l'<ref-law>. Cette disposition réserve toutefois l'<ref-law> selon lequel ces frais doivent être remboursés dès que la situation financière de l'intéressé le lui permet. Les frais relatifs à l'assistance judiciaire de la partie plaignante sont également assumés en premier lieu par l'Etat. L'<ref-law> prévoit qu'ils ne peuvent être "mis à la charge du condamné que si celui-ci bénéficie d'une bonne situation économique". Cette disposition n'exclut dès lors pas que ces frais puissent être supportés par le prévenu condamné. La formulation utilisée pourrait cependant laisser penser, ainsi que la recourante le suggère, que tel ne peut être le cas que si l'intéressé dispose de moyens suffisants au moment où l'autorité statue. Une obligation de remboursement en cas d'amélioration ultérieure de sa situation n'est en effet pas expressément réservée par l'<ref-law>. L'<ref-law> prévoit toutefois que l'<ref-law> s'applique par analogie à l'indemnisation du conseil juridique gratuit de la partie plaignante. Il en va dès lors ainsi de l'obligation du condamné de rembourser les frais engendrés par celle-ci aux conditions de l'<ref-law>. La doctrine considère également que les conditions matérielles auxquelles le condamné peut être tenu de s'acquitter des frais relatifs à la défense d'office et de ceux de l'assistance judiciaire de la partie plaignante sont identiques (Niklaus Schmid, Schweizerische Strafprozessordnung (StPO), Praxiskommentar, 2009, n. 12 ad <ref-law>; Thomas Domeisen, Basler Kommentar, Schweizerische Strafprozessordnung, 2010, n. 19 ad <ref-law>). L'<ref-law> n'exclut ainsi pas que les frais afférents à l'assistance judiciaire de la partie plaignante puissent être mis à la charge du prévenu condamné, leur remboursement ne pouvant toutefois être réclamé que lorsque la situation financière de l'intéressé le lui permet.
2.2 En l'espèce, la cour cantonale a mis à la charge de la recourante les frais d'appel, y compris l'indemnité allouée à son défenseur d'office et celle pour l'assistance judiciaire de la partie plaignante. Il est toutefois prévu que l'intéressée ne sera tenue de rembourser à l'Etat lesdites indemnités que lorsque sa situation financière le lui permettra. L'obligation de la recourante n'est pas inconditionnelle, mais dépend de sa situation économique. La cour cantonale n'a ainsi pas violé le droit fédéral. Le grief doit être rejeté.
3. La recourante a sollicité l'assistance judiciaire. Comme ses conclusions étaient manifestement dénuées de chance de succès, la recourante doit être déboutée de sa demande (<ref-law> a contrario) et supporter les frais de justice, qui seront fixés en tenant compte de sa situation financière (art. 65 al. 2 et art. 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La demande d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 1'600 francs, sont mis à la charge de la recourante.
4. Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 14 mai 2012
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
Le Greffier: Rieben