Faits:
A. A.a La Fondation X._ est une fondation de droit privé dont le but est l'exploitation d'un établissement médical spécialisé (EMS).
Y._ a travaillé dès le 1er décembre 1999 au service de la Fondation, en qualité d'infirmière de nuit à un taux d'activité de 90%, puis de 100% dès le 1er décembre 2001. Les parties sont liées par un contrat de travail de durée indéterminée.
En février 2006, Y._ a fait une demande écrite afin de pouvoir travailler de nuit uniquement et fourni, à cette fin, un certificat de bonne santé. Elle entendait ainsi déroger aux dispositions de la loi sur le travail, qui prévoyait, après modification, une alternance entre le travail de nuit et le travail de jour.
En sus de son activité pour la Fondation, Y._ a travaillé en qualité d'infirmière de nuit pour un autre établissement, le W._, de janvier 2000 à juillet 2003.
A.b En octobre 2003, une altercation a eu lieu entre Y._ et une collègue infirmière. L'infirmière-cheffe, A._, est intervenue et, lors de la discussion, Y._ s'est plainte des plannings chargés; à cette occasion, le ton est à nouveau monté. A la suite de cet événement, un avertissement a été notifié à Y._ par le directeur de l'EMS, qui lui reprochait ses écarts de langage accompagnés d'agressivité à l'égard de ses collègues et de sa supérieure hiérarchique.
Une deuxième altercation a eu lieu le 17 février 2006 entre Y._ et une infirmière de jour, au motif que celle-ci n'avait pas terminé, à la fin de son service, la préparation des médicaments pour la semaine ainsi que l'administration d'un soin à un patient. L'infirmière de jour s'est plainte de ce fait à l'infirmière-cheffe et un avertissement oral, notifié par écrit le 3 mars 2006 à Y._, s'en est suivi. L'employeuse reprochait à l'employée une attitude verbale agressive et injustifiée à l'encontre de sa collègue infirmière. Le 28 mars 2006, Y._ s'est opposée à l'avertissement, invoquant une violation des dispositions de la Convention collective de travail pour les employé(e)s des établissements médico-sociaux du canton de Genève accueillant des personnes âgées du 22 mars 2004, le fait qu'elle était en arrêt maladie depuis le 1er mars 2006 en raison de l'important stress dont elle était victime et enfin le fait qu'elle ne bénéficiait pas toujours d'un traitement correct et respectueux de la part de ses supérieurs et collègues.
Après s'être entretenue avec l'employée le 23 mai 2006, l'employeuse a, par courrier du 1er juin 2006, retiré l'avertissement contesté. Dans ce même courrier, elle invitait l'employée à prendre contact avec l'infirmière-cheffe, afin de négocier les modalités de sa réintégration concernant le travail en alternance jour-nuit ou la réduction du temps de travail. Les intéressées se sont rencontrées le 13 juin 2006, afin de discuter de ces modalités, mais ne sont pas parvenues à un accord. De cette dernière date au 19 septembre 2006, l'employée a été en incapacité totale de travailler; elle estimait être victime d'acte de mobbing, accusant l'infirmière-cheffe de harcèlement verbal ayant provoqué son incapacité de travail.
Le 18 septembre 2006, le contrat de travail a été résilié par l'employeuse pour le 31 décembre 2006. L'employée s'est opposée au licenciement. A titre de motifs de licenciement, l'employeuse a invoqué le comportement agressif de l'employée à l'égard de ses collègues, le refus de celle-ci d'accepter les propositions d'alternance de travail jour-nuit et l'installation d'un climat malsain avec la supérieure hiérarchique, suivi de graves accusations à l'encontre de celle-ci.
A.c En cours d'emploi, l'employée a subi plusieurs incapacités totales de travailler: du 14 juin au 7 septembre 2001, du 22 juin au 22 juillet 2004, du 1er mars au 3 juin 2006, puis du 13 juin au 19 septembre 2006. L'employée souffrait d'états anxio-dépressifs à répétition.
B. Le 16 avril 2007, Y._ a ouvert action contre la Fondation X._ devant le Tribunal de la juridiction des prud'hommes du canton de Genève. La défenderesse devait être condamnée à payer une indemnité de 49'311 fr.30 pour licenciement abusif et une indemnité de 5'000 fr. pour tort moral.
Se prononçant le 25 mars 2008, l'autorité a débouté la demanderesse des fins de sa demande. Les premiers juges ont estimé que les événements ou situations relevés par la demanderesse ne constituaient pas des actes de mobbing ou d'atteinte à sa personnalité ou à sa santé; ils ont par ailleurs retenu que les motifs de licenciement invoqués par l'employeuse étaient réels et que la preuve que le licenciement était dû aux plaintes de l'employée quant à ses horaires ou à des atteintes à la personnalité alléguées n'a pas été apportée. L'existence d'un licenciement abusif a ainsi été écartée. La juridiction des prud'hommes a enfin dénié l'octroi d'une indemnité pour tort moral, en l'absence de licenciement abusif ou de violation de l'art. 328 CO.
Statuant le 4 juin 2009 sur appel de l'employée, la Cour d'appel de la juridiction des prud'hommes a annulé le jugement du 25 mars 2008 et, statuant à nouveau, condamné l'employeuse à verser à l'employée la somme de 16'500 fr. à titre d'indemnité pour licenciement abusif et à payer les dépens d'appel et l'émolument de 180 fr. à l'Etat de Genève. Les parties ont été déboutées de toutes autres conclusions.
En bref, l'autorité d'appel a jugé qu'au regard des motifs allégués par l'employeuse, qui ne pouvaient être invoqués comme motif de renvoi, le licenciement était abusif au sens de l'art. 336 al. 1 let. d CO, et arrêté l'indemnité pour licenciement abusif à 16'500 francs. Les prétentions en réparation du tort moral ont été écartées.
C. C.a Agissant par la voie du recours en matière civile, l'employeuse requiert le Tribunal fédéral d'annuler l'arrêt entrepris et de confirmer le jugement du Tribunal des prud'hommes. Subsidiairement, elle demande l'annulation de l'arrêt et le renvoi de la cause à la Cour d'appel pour jugement dans le sens des considérants. La recourante se plaint d'une violation de l'interdiction de l'arbitraire et d'une violation des art. 335 al. 1 et 336 al. 1 let. d CO, de l'art. 8 CC et, enfin, des art. 29 Cst. et 336a CO.
C.b Par ordonnance présidentielle du 31 août 2009, la demande d'effet suspensif jointe au recours a été rejetée.
Considérant en droit:
1. 1.1 Le recours est dirigé contre un jugement final (art. 90 LTF), rendu en matière civile (art. 72 al. 1 LTF) et en dernière instance cantonale (art. 75 al. 1 LTF). Son auteur a pris part à l'instance précédente et succombé dans ses conclusions (art. 76 al. 1 LTF). La valeur litigieuse excède le minimum légal de 15'000 fr. prévu en matière de droit du travail (art. 51 al. 1 let. a et 74 al. 1 let. a LTF). Introduit en temps utile (art. 100 al. 1 LTF) et dans les formes requises (art. 42 al. 1 à 3 LTF), le recours est en principe recevable.
1.2 Le recours peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Il n'est donc limité ni par les arguments soulevés dans le recours, ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (ATF 135 III 397 consid. 1.4 p. 400; 134 III 102 consid. 1.1 p. 104). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (art. 108 al. 1 let. b LTF), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui (ATF 135 III 397 consid. 1.4 p. 400; 134 III 102 consid. 1.1 p. 105). Par exception au principe selon lequel il applique le droit d'office, il ne peut entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal que si le grief a été invoqué et motivé de manière précise par la partie recourante (art. 106 al. 2 LTF).
1.3 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). La partie recourante ne peut critiquer ceux-ci que s'ils ont été constatés de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (ATF 135 II 145 consid. 8.1 p. 153; 135 III 127 consid. 1.5 p. 130) - ou en violation du droit au sens de l'art. 95 LTF (art. 97 al. 1 LTF), ce qu'il lui appartient d'expliquer et de démontrer de manière claire et circonstanciée. La correction du vice doit en outre être susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF).
1.4 Le Tribunal fédéral ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF). Toute conclusion nouvelle est irrecevable (art. 99 al. 2 LTF).
2. Dans le cadre de l'examen des motifs de licenciement invoqués par la recourante, l'autorité cantonale s'est prononcée sur les deux avertissements adressés à l'employée ainsi que sur le refus catégorique de celle-ci d'adhérer à la proposition d'alternance de travail jour-nuit. Estimant que ces motifs n'étaient pas avérés, la juridiction inférieure a admis le caractère abusif du licenciement. Elle ne s'est par contre pas prononcée sur le troisième motif de licenciement allégué par l'employeuse, à savoir le climat malsain, qui s'est installé entre l'employée et ses supérieurs hiérarchiques.
2.1 Le motif de la résiliation relève du fait (ATF 131 III 535 consid. 4.3 p. 540; 130 III 699 consid. 4.1 p. 702; 127 III 86 consid. 2a p. 88). Les constatations cantonales sur ce point lient le Tribunal fédéral, à moins qu'elles n'aient été établies de façon manifestement inexacte - c'est-à-dire arbitrairement - ou en violation du droit, ce qu'il appartient à l'auteur du recours d'expliquer de manière circonstanciée (cf. consid. 1.3 ci-dessus).
Selon la jurisprudence, une décision est arbitraire au sens de l'art. 9 Cst. lorsqu'elle est manifestement insoutenable, méconnaît gravement une norme ou un principe juridique clair et indiscuté, ou encore heurte de manière choquante le sentiment de la justice et de l'équité. Il ne suffit pas que sa motivation soit insoutenable; encore faut-il que la décision apparaisse arbitraire dans son résultat. A cet égard, le Tribunal fédéral ne s'écarte de la solution retenue que si celle-ci apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motif objectif et en violation d'un droit certain. Il n'y a pas arbitraire du seul fait qu'une autre solution paraît également concevable, voire même préférable (ATF 135 V 2 consid. 1.3 p. 4 s.; 134 I 263 consid. 3.1 p. 265 s.).
En matière d'appréciation des preuves et d'établissement des faits, l'autorité tombe dans l'arbitraire lorsqu'elle ne prend pas en compte, sans raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des constatations insoutenables (ATF 129 I 8 consid. 2.1 p. 9; voir aussi ATF 134 V 53 consid. 4.3 p. 62).
2.2 Sous l'intitulé « de la violation de l'interdiction de l'arbitraire », la recourante reproche tout d'abord à la Cour d'appel d'être arrivée à des conclusions totalement opposées de celles du Tribunal des prud'hommes, en s'étant fondée sur le même état de fait; la cour cantonale aurait ainsi fait preuve d'arbitraire dans le résultat. La recourante fait ensuite grief à la cour cantonale d'avoir apprécié les preuves et établi les faits de manière insoutenable, en ayant considéré que les motifs invoqués à l'appui du licenciement n'étaient pas réels.
L'appréciation juridique d'un état de fait par l'autorité cantonale, qu'il soit ou non similaire à celui de l'autorité de première instance, est une question de droit que le Tribunal fédéral examine librement. Il n'y a donc pas lieu de trancher le grief d'arbitraire soulevé par la recourante sur ce point - qui sera examiné ci-après (cf. consid. 3).
La recourante s'attache ensuite à rediscuter l'état de fait dressé par l'autorité cantonale en lien avec les motifs invoqués à l'appui de la résiliation, sans démontrer avec la précision requise que ces faits auraient été retenus arbitrairement.
Au demeurant, il n'est pas insoutenable pour la cour cantonale d'avoir estimé que le contenu des deux avertissements notifiés à l'employée ne pouvait pas être tenu pour un motif réel de licenciement, compte tenu d'une part du retrait du second d'entre eux par l'employeuse - ce qui n'est du reste pas contesté - et d'autre part du temps écoulé entre le premier, signifié le 7 octobre 2003, et le licenciement, daté du 18 septembre 2006.
La cour pouvait en outre considéré, sans arbitraire, que la rupture des discussions portant sur l'aménagement des horaires de l'employée n'était pas imputable à cette dernière uniquement. Si l'employeuse était certes soumise à des exigences organisationnelles lui imposant de prendre en considération l'horaire de l'ensemble des infirmières, il ressort des faits de la cause que son point de vue sur la possibilité d'offrir un travail de nuit à l'employée, puis sur celle de pouvoir répartir l'horaire à raison de 60% la nuit et de 40% le jour, a évolué au cours des différentes discussions entre les intéressées: lors même que l'employeuse n'a pas manifesté, au début des négociations, une opposition stricte à ces possibilités, elle s'en est au final distancée. Cette attitude a pu contribuer à déstabiliser l'employée, ce d'autant plus qu'il n'est pas contesté que l'employeuse s'exprimait par l'intermédiaire de la supérieure hiérarchique de l'employée, avec qui celle-ci avait des difficultés relationnelles. Ainsi, même en présence de prises de position changeantes et/ou contradictoires de l'employée, puis d'exigences précises de celle-ci au sujet de la répartition de ses horaires de travail, comme allégué par l'employeuse, il n'est pas insoutenable, pour la cour cantonale, qu'avoir refusé d'imputer la rupture des discussions à la seule employée.
3. La recourante se plaint ensuite d'une violation des art. 335 al. 1 et 336 al. 1 let. d CO. Elle dénonce également une violation par l'autorité cantonale de l'obligation de motiver la décision, telle que découlant de l'art. 29 al. 2 Cst. et une violation des art. 8 CC et 336a CO.
3.1 Selon l'art. 335 al. 1 CO, le contrat de travail conclu pour une durée indéterminée peut être résilié par chacune des parties. En droit suisse du travail, la liberté de la résiliation prévaut, de sorte que, pour être valable, un congé n'a en principe pas besoin de reposer sur un motif particulier. Le droit de chaque cocontractant de mettre unilatéralement fin au contrat est toutefois limité par les dispositions sur le congé abusif (art. 336 ss CO). L'art. 336 al. 1 et 2 CO contient une liste non exhaustive de cas dans lesquels la résiliation est abusive (ATF 132 III 115 consid. 2.1 p. 116; 131 III 535 consid. 4.1 et 4.2 p. 537/538). Ainsi, selon l'art. 336 al. 1 let. d CO, le congé est abusif lorsqu'il est donné par une partie parce que l'autre partie fait valoir de bonne foi des prétentions résultant du contrat de travail. Cette disposition vise le congé-représailles ou congé-vengeance. Elle tend en particulier à empêcher que le licenciement soit utilisé pour punir le travailleur d'avoir fait valoir des prétentions auprès de son employeur en supposant de bonne foi que les droits dont il soutenait être le titulaire lui étaient acquis. En principe, la bonne foi du travailleur est présumée (art. 3 al. 1 CC) et il importe peu que les prétentions invoquées de bonne foi soient réellement fondées. La réclamation ne doit toutefois être ni chicanière ni téméraire, car elle empêcherait alors une résiliation en elle-même admissible (arrêt 4C.237/2005 du 27 octobre 2005 consid. 2.2 et les références).
3.2 La cour cantonale a admis le caractère abusif du licenciement de l'employée au sens de l'art. 336 al. 1 let. d CO, en axant son analyse sur les motifs de renvoi invoqués par l'employeuse, qu'elle a considérés comme ne reflétant pas la réalité.
Si le Tribunal fédéral admet que le juge peut présumer l'existence d'un congé abusif lorsque le travailleur apporte des indices suffisants pour faire apparaître comme non réel le motif de résiliation invoqué par l'employeur, il ne faut pas perdre de vue que la motivation inexacte du congé ne constitue pas en soi un motif de licenciement abusif (arrêt 4C.282/2006 du 1er mars 2007 consid. 4.3; RÉMY WYLER, Droit du travail, 2008, p. 534; cf. ég. ATF 130 III 699 consid. 4.1 p. 703). Le congé signifié à l'employée ne peut donc être considéré comme abusif sur la seule base du caractère non avéré des griefs invoqués à l'appui de la résiliation, contrairement à ce que la cour cantonale semble admettre. Il sied en outre d'observer que la cour ne s'est prononcée que sur deux des trois motifs invoqués.
Il ressort par ailleurs des faits de la cause que les parties ont entamé une discussion sur les nouvelles modalités de travail - travail en alternance jour-nuit ou réduction du temps de travail - sur invitation de l'employeuse qui voulait offrir à l'employée une reprise du travail dans de bonnes conditions, et que les négociations ont finalement échoué. En principe, le congé donné parce que le travailleur refuse une modification du contrat de travail n'est pas abusif, sauf si l'employé est licencié parce qu'il n'a pas accepté des modifications qui devaient être immédiatement applicables, lorsque la résiliation sert de moyen de pression pour imposer une modification du contrat défavorable au travailleur ou encore lorsqu'elle est signifiée à l'employé parce que celui-ci refuse de conclure un nouveau contrat qui viole la loi, une convention collective ou un contrat-type applicables (arrêt 4C.282/2006 du 1er mars 2007 consid. 4.2 et les références citées; GABRIEL AUBERT, in Commentaire romand, no 9 ad art. 336 CO). Rien de semblable n'est établi. Ainsi, le caractère abusif du licenciement n'est pas réalisé.
Comme l'autorité cantonale n'évoque pas l'existence d'autres motifs à même d'établir le caractère abusif du licenciement, il convient d'admettre le recours, d'annuler le jugement attaqué et de rejeter la demande, sans qu'il ne soit nécessaire d'entrer en matière sur les autres griefs soulevés par la recourante.
4. Les frais et dépens sont mis à la charge de la partie qui succombe (art. 66 al. 1 et 68 al. 1 et 2 LTF).
La cause doit être renvoyée à l'autorité précédente pour fixer à nouveau les frais et dépens de la procédure cantonale (art. 67 et 68 al. 5 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis, dans la mesure de sa recevabilité, l'arrêt attaqué est annulé et il est prononcé que la demande est entièrement rejetée.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge de l'intimée.
3. L'intimée versera à la recourante une indemnité de 2'500 fr. à titre de dépens.
4. La cause est renvoyée à la Cour d'appel de la juridiction des prud'hommes pour nouvelle décision sur les frais et dépens de la procédure antérieure.
5. Le présent arrêt est communiqué aux parties et à la Cour d'appel de la juridiction des prud'hommes du canton de Genève.
Lausanne, le 20 octobre 2009
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: La Greffière:
Klett Crittin