Faits:
A.a Dès l'âge de quatre ans, par l'intermédiaire de différentes associations, X._, née le 28 mars 1986, a passé ses vacances d'été et d'hiver à Lausanne chez Y._ et le compagnon de cette dernière, Z._. Elle s'est installée chez eux à l'âge de dix-huit ans.
A.b Le 23 septembre 2009, X._ a déposé plainte pénale contre Z._ pour viol et contrainte sexuelle au motif que ce dernier l'avait régulièrement forcée à subir divers actes d'ordre sexuel ainsi que plusieurs relations sexuelles complètes depuis cinq ans, soit alors qu'elle était âgée de 18 à 23 ans, et ce, en juillet 2009 pour la dernière fois.
A.c Le 13 octobre 2009, X._ a retiré sa plainte, indiquant: "voilà, je souhaiterai enlever ma plainte contre Z._ parce que je me sens mal et sa me traçage énormément il était alcooliser" (sic).
A.d Les infractions dénoncées se poursuivant d'office, le juge d'instruction a continué son enquête et a, en date du 7 décembre 2010, prononcé un non-lieu en faveur de Z._, devenu définitif faute de recours. Il a par ailleurs renvoyé X._ en jugement pour dénonciation calomnieuse.
B. Par jugement du 30 mai 2011, le Tribunal de police de l'arrondissement de Lausanne a constaté que X._ s'était rendue coupable de dénonciation calomnieuse et il l'a condamnée à une peine pécuniaire de quinze jours-amende à 50 francs l'un, avec sursis et délai d'épreuve de deux ans.
C. Sur appel du Ministère public qui contestait la peine prononcée, la Cour d'appel pénale du Tribunal cantonal vaudois a confirmé la décision de première instance par jugement du 30 septembre 2011.
D. Le Ministère public interjette un recours en matière pénale au Tribunal fédéral contre ce jugement. Il conclut à la réforme de la décision attaquée et à la condamnation de X._ à une peine de 150 jours-amende à 50 francs l'un, subsidiairement, au renvoi de la cause à la Cour d'appel pénale.
Invitée à se déterminer sur le recours, la Cour d'appel pénale a indiqué se référer aux considérants de sa décision. X._ n'a pas déposé de réponse dans le délai imparti.

Considérant en droit:
1. Le recours est circonscrit à la question de la quotité de la peine prononcée à l'encontre de l'intimée.
1.1 Selon l'<ref-law>, le juge fixe la peine d'après la culpabilité de l'auteur. Il prend en considération les antécédents et la situation personnelle de ce dernier ainsi que l'effet de la peine sur son avenir (al. 1). La culpabilité est déterminée par la gravité de la lésion ou de la mise en danger du bien juridique concerné, par le caractère répréhensible de l'acte, par les motivations et les buts de l'auteur et par la mesure dans laquelle celui-ci aurait pu éviter la mise en danger ou la lésion, compte tenu de sa situation personnelle et des circonstances extérieures (al. 2).
Les critères énumérés de manière non exhaustive par l'<ref-law> correspondent à ceux fixés par l'art. 63 aCP et la jurisprudence élaborée en application de cette disposition, qui conserve toute sa valeur (<ref-ruling> consid. 2.1 p. 19). Ainsi, la culpabilité de l'auteur doit être évaluée en fonction de tous les éléments objectifs pertinents, qui ont trait à l'acte lui-même, à savoir notamment la gravité de la lésion, le caractère répréhensible de l'acte et son mode d'exécution (objektive Tatkomponente); du point de vue subjectif, sont pris en compte l'intensité de la volonté délictuelle ainsi que les motivations et les buts de l'auteur (subjektive Tatkomponente). A ces composantes de la culpabilité, il faut ajouter les facteurs liés à l'auteur lui-même (Täterkomponente), à savoir les antécédents, la réputation, la situation personnelle (état de santé, âge, obligations familiales, situation professionnelle, risque de récidive, etc.), la vulnérabilité face à la peine, de même que le comportement après l'acte et au cours de la procédure pénale (<ref-ruling> consid. 6.1 p. 20; arrêt 6B_271/2011 du 31 mai 2011 consid. 2.2.2; 6B_722/2010 du 17 février 2011 consid. 1.2.2).
L'<ref-law> confère un large pouvoir d'appréciation au juge. Par conséquent, celui-ci ne viole le droit fédéral en fixant la peine que s'il sort du cadre légal, s'il se fonde sur des critères étrangers à l'<ref-law>, s'il omet de prendre en considération des éléments d'appréciation prévus par cette disposition ou, enfin, si la peine qu'il prononce est exagérément sévère ou clémente au point de constituer un abus du pouvoir d'appréciation (<ref-ruling> consid. 2.1; <ref-ruling> consid. 6.1 et les références citées).
1.2 Pour fixer la peine, la cour cantonale s'est référée à l'avis des premiers juges en tant qu'ils ont tenu compte du fait que l'intimée avait entretenu avec Z._ une relation consentie bien qu'ambigüe, voire perverse, celle-ci étant vingt ans plus jeune que lui et probablement à la recherche d'une figure paternelle. Elle se trouvait certainement sous l'influence affective du précité, dont elle n'avait pu se libérer qu'en déposant plainte pénale à son encontre. Ce dernier se considérant presque comme un père, il lui incombait de mettre les limites adéquates à leurs relations, ce qu'il n'avait pas su faire, vu sa propre immaturité. A ces éléments, il convenait d'ajouter que l'intimée n'avait pas commis l'infraction pour des motifs égoïstes, mais pour résoudre une situation psycho-affective difficile, voire inextricable. En outre, étant enfant, elle avait été battue par son père, avec lequel elle n'avait actuellement plus de contact et ses parents avaient divorcés. Elle avait éprouvé de grandes difficultés dans l'acquisition des connaissances de base, comme en attestait son courrier du 13 octobre 2009, ainsi que des difficultés en matière de formation et d'emploi. De par son vécu, l'intimée paraissait avoir été tout à la fois vulnérable et perturbée. Elle semblait par ailleurs avoir été prise dans un triple conflit de loyauté, à l'égard de Y._, qu'elle avait trahie en nouant une relation avec Z._, à l'égard de ce dernier, père de substitution, et enfin à l'égard de son ami intime. L'intimée avait réitéré ses accusations après avoir retiré sa plainte et la déclaration de retrait ne comportait pas à proprement parler de rectification des faits. L'<ref-law>, qui permet une atténuation ou une exemption de peine à certaines conditions en cas de rectification de la fausse dénonciation, ne s'appliquait donc pas. Il fallait toutefois tenir compte, à la décharge de l'intimée, de sa tentative d'interrompre le processus pénal qu'elle avait déclenché et d'éviter à Z._ de subir une sanction pénale. Ainsi, en définitive, au vu de l'ensemble de ces éléments, la culpabilité de l'intimée n'était pas lourde et la sanction prononcée n'était pas arbitrairement clémente.
2. Le recourant ne conteste pas que la peine a été fixée dans le cadre légal, selon des critères posés par l'<ref-law> et sans se laisser guider par des considérations étrangères à celui-ci. Il fait cependant valoir que certains éléments ont été omis, lesquels, s'ils avaient été pris en considération, auraient dû amener l'autorité cantonale à prononcer une peine plus sévère, même en tenant compte des éléments à décharge mentionnés à juste titre.
2.1 Le recourant soutient en premier lieu que la cour cantonale n'a pas suffisamment tenu compte de la gravité de la lésion causée par des accusations de la nature de celles portées contre Z._. Celles-ci causaient une atteinte directe à la personne faussement dénoncée dont les moyens de défense, qui se limitaient à des dénégations, étaient restreints puisque les actes reprochés se déroulent généralement à huis-clos.
2.1.1 Selon l'<ref-law>, celui qui aura dénoncé à l'autorité, comme auteur d'un crime ou d'un délit, une personne qu'il savait innocente, en vue de faire ouvrir contre elle une poursuite pénale, sera puni d'une peine privative de liberté ou d'une peine pécuniaire. Cette disposition protège en premier lieu l'administration de la justice. Une telle dénonciation entraîne la mobilisation inutile de ressources publiques. Elle protège toutefois également les droits de la personnalité de celui qui est accusé faussement, notamment son honneur, sa liberté, sa sphère privée, ses biens (<ref-ruling> consid. 2.1 p. 176; <ref-ruling> consid. 4.1 p. 25).
2.1.2 La décision attaquée examine les éléments subjectifs qui ont trait à l'acte, à savoir la motivation de l'intimée lorsqu'elle a déposé plainte, ainsi que les facteurs liés à l'intimée elle-même, soit sa situation personnelle. La gravité de la lésion, comme élément objectif pertinent, n'est en revanche pas évoquée. Il s'agit toutefois d'un élément essentiel à prendre en compte lors de la fixation de la peine selon l'<ref-law>, dont il ne peut être fait abstraction. La nature des faits dénoncés n'est pas indifférente pour déterminer l'ampleur de l'atteinte aux droits de la personnalité de celui qui est accusé faussement et ainsi la gravité de la lésion. La dénonciation portait, en l'espèce, sur plusieurs infractions à l'intégrité sexuelle, commises à réitérées reprises sur une longue période de temps, et qui exposaient la personne accusée à tort à une peine privative de liberté pouvant aller jusqu'à dix ans, si la seule infraction de viol était retenue. Il convenait dès lors de tenir compte de la gravité de telles accusations pour déterminer le degré de culpabilité de l'intimée. La cour cantonale ne l'ayant pas fait, alors qu'il s'agissait pourtant d'un critère d'appréciation selon l'<ref-law>, elle a violé cette disposition.
2.2 Le recourant soutient également que le jugement attaqué ne prend pas en considération le comportement de l'intimée après l'acte et au cours de la procédure pénale. Celle-ci avait persisté à maintenir ses accusations jusque devant le Tribunal de police. S'il était vraisemblable qu'elle s'était trouvée dans une situation psycho-affective difficile, elle avait toutefois quitté par la suite son environnement et vivait en ménage avec son compagnon.
2.2.1 Selon la jurisprudence, pour apprécier la situation personnelle de l'auteur, le juge peut prendre en considération le comportement postérieurement à l'acte et au cours de la procédure pénale et notamment l'existence ou l'absence de repentir après l'acte et la volonté de s'amender. Il lui sera loisible de relever l'absence de repentir démontré par l'attitude adoptée en cours de procédure (<ref-ruling> consid. 2b p. 25; <ref-ruling> consid. 4c p. 57; arrêt 6B_233/2011 du 7 juillet 2011 consid 2.3).
2.2.2 La cour cantonale a considéré qu'il convenait de tenir compte, à la décharge de l'intimée, de sa volonté d'interrompre le processus pénal. Le retrait de plainte ne comporte cependant aucune rectification des faits dénoncés. Il apparaît en effet, à la lecture de ce document, qu'il n'est pas motivé par le fait que l'intimée avait faussement accusé Z._, mais que celui-ci avait commis les actes reprochés en étant alcoolisé et qu'elle supportait mal la situation. De tels motifs n'étaient objectivement pas de nature à interrompre le processus pénal. Il était par ailleurs contradictoire de considérer que l'intimée a cherché à stopper celui-ci tout en relevant qu'elle a maintenu ses accusations lors de ses différentes auditions. C'est dès lors en violation de l'<ref-law> que la cour cantonale a retenu, à la décharge de l'intimée, qu'elle avait cherché à interrompre le processus pénal.
La cour cantonale a en outre tenu compte, à la décharge de l'intimée, que celle-ci avait déposé plainte pénale contre Z._ pour se libérer de son influence affective. Sa situation personnelle a toutefois évolué par la suite puisqu'elle vit actuellement avec son compagnon. Le maintien de ses accusations ne peut donc s'expliquer par sa situation de dépendance à l'égard du précité et la cour cantonale, qui n'invoque aucun autre motif pour expliquer qu'elle persiste à dénoncer faussement celui-ci, devait tenir compte de cette circonstance dans le cadre de l'appréciation de la faute de l'intimée.
2.3 En définitive, l'autorité cantonale n'a pas tenu compte de la gravité de la lésion comme critère d'appréciation dans le cadre de la fixation de la peine et elle a retenu à la décharge de l'intimée des éléments qui ne pouvaient l'être et qui n'étaient donc pas aptes à motiver la peine de 15 jours-amende prononcée. Les sanctions entrant en considération allaient jusqu'à 20 ans de privation de liberté, à la différence d'autres infractions similaires du même titre du code pénal pour lesquelles une limite de trois ou cinq ans est prévue. La peine prononcée apparaît dès lors exagérément légère, au point de constituer un abus du pouvoir d'appréciation. L'autorité cantonale devra donc fixer une nouvelle peine sur la base de l'ensemble des éléments qui doivent être retenus. Le recours doit être admis et la cause renvoyée à l'autorité cantonale afin qu'elle statue dans le sens des considérants
3. Le Ministère public, qui obtient ainsi gain de cause, ne saurait se voir allouer de dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis et l'arrêt attaqué annulé.
2. La cause est renvoyée à l'autorité cantonale pour nouvelle décision dans le sens des considérants.
3. Il n'est pas prélevé de frais judiciaires.
4. Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 19 avril 2012
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
Le Greffier: Rieben