Faits: A.a Dès l'âge de quatre ans, par l'intermédiaire de différentes associations, X._, née le 28 mars 1986, a passé ses vacances d'été et d'hiver à Lausanne chez Y._ et le compagnon de cette dernière, Z._. Elle s'est installée chez eux à l'âge de dix-huit ans. A.b Le 23 septembre 2009, X._ a déposé plainte pénale contre Z._ pour viol et contrainte sexuelle au motif que ce dernier l'avait régulièrement forcée à subir divers actes d'ordre sexuel ainsi que plusieurs relations sexuelles complètes depuis cinq ans, soit alors qu'elle était âgée de 18 à 23 ans, et ce, en juillet 2009 pour la dernière fois. A.c Le 13 octobre 2009, X._ a retiré sa plainte, indiquant: "voilà, je souhaiterai enlever ma plainte contre Z._ parce que je me sens mal et sa me traçage énormément il était alcooliser" (sic). A.d Les infractions dénoncées se poursuivant d'office, le juge d'instruction a continué son enquête et a, en date du 7 décembre 2010, prononcé un non-lieu en faveur de Z._, devenu définitif faute de recours. Il a par ailleurs renvoyé X._ en jugement pour dénonciation calomnieuse. B. Par jugement du 30 mai 2011, le Tribunal de police de l'arrondissement de Lausanne a constaté que X._ s'était rendue coupable de dénonciation calomnieuse et il l'a condamnée à une peine pécuniaire de quinze jours-amende à 50 francs l'un, avec sursis et délai d'épreuve de deux ans. C. Sur appel du Ministère public qui contestait la peine prononcée, la Cour d'appel pénale du Tribunal cantonal vaudois a confirmé la décision de première instance par jugement du 30 septembre 2011. D. Le Ministère public interjette un recours en matière pénale au Tribunal fédéral contre ce jugement. Il conclut à la réforme de la décision attaquée et à la condamnation de X._ à une peine de 150 jours-amende à 50 francs l'un, subsidiairement, au renvoi de la cause à la Cour d'appel pénale. Invitée à se déterminer sur le recours, la Cour d'appel pénale a indiqué se référer aux considérants de sa décision. X._ n'a pas déposé de réponse dans le délai imparti.