Faits:
A. Par contrat du 14 octobre 1996, Y._ a pris à bail un appartement de 5 pièces dans un immeuble sis à Carouge (GE). A une date indéterminée, X._ est devenue propriétaire de l'immeuble et bailleresse de Y._ (ci-après: la locataire).
En avril 2008, le loyer s'élevait à 2'056 fr. par mois (soit 24'672 fr. par an) et la provision mensuelle pour les charges à 205 fr. (soit 2'460 fr. par an). Le terme d'échéance annuelle était fixé au 30 novembre, le préavis de congé étant de trois mois.
Par courrier du 4 avril 2008, la bailleresse a informé la locataire de son projet de facturer séparément les frais accessoires de manière à ne décompter que la consommation effective d'énergie et les services utilisés dans l'immeuble. Elle a expliqué que cette modification entraînerait une réduction du loyer net comportant la déduction des frais accessoires, comme cela était déjà le cas pour les frais de chauffage et d'eau chaude.
Une séance d'information a été organisée le 6 mai 2008 pour les locataires de l'immeuble.
Par formule officielle datée du 27 juin 2008, la bailleresse a notifié à la locataire un "avis de majoration de loyer ou d'autres modifications du bail donné au locataire en application de l'article 269d du code des obligations". L'avis indiquait notamment ce qui suit:
"(...)
Ancien loyer annuel: dès le: Charges (provisions pour chauffage)
Fr. 24'672.00 01.12.2005 Fr. 2'460.00
A. En application de l'art. 269d al. 1 CO, nous vous communiquons la hausse de loyer suivante:
Nouveau loyer annuel:
Fr. 22'752.00 du 01.12.2008 (...)
B. En application de l'art. 269d al. 3 CO, nous vous communiquons les modifications du bail suivantes:
1. Nouvelle échéance du bail proposée,
avec reconduction éventuelle selon clause du bail: le 30.11.2009
2. Charges (provisions pour chauffage): Fr. 2'460.00.
3. Divers:
Provisions annuelles pour frais accessoires : Fr. 3'156.00,
coût effectif uniquement des postes suivants:
consommation de courant des installations techniques et/ou communes, consommation d'eau générale de l'immeuble et de ses habitants, frais de conciergerie (salaire, charges sociales et matériel) et d'entretien des jardins, des extérieurs et des surfaces communes, déblaiement de la neige, contributions publiques liées à l'usage de l'objet loué, telles que frais d'éclairage des voies d'accès, taxes de base et enlèvement des ordures, droits d'eau et taxes d'épuration des eaux, frais d'exploitation pour les installations techniques et/ou communes, ventilation et leur entretien, contrôle de désinsectisation, frais d'exploitation des ascenseurs (abonnements, électricité, éclairage), frais de buanderie, frais relatifs au service du téléréseau, de réception par antenne parabolique, câbles, fibres optiques, pour la retransmission des ondes radio et télévision, sécurité incendie (transmission d'appel ou d'alarme à distance), service de tout système de détection et d'extinction), systèmes d'accès (telpass, codes à touches), frais et honoraires de décompte et de répartition des charges, TVA sur les postes précités.
Motifs précis de la majoration ou des modifications ci-dessus:
- Hausse de loyer de 5,02%, calculée sur la base de l'évolution des critères relatifs (variation de l'ISPC de 1,52%, variation du taux hypothécaire de 3%, hausse des charges d'exploitation de 0,5%).
- Introduction d'une provision pour les frais accessoires susmentionnés, moyennant une réduction proportionnelle du nouveau loyer. Souhait du bailleur de bien distinguer les frais accessoires, liés à l'usage des locaux loués, du loyer net, de manière à ne facturer pour les frais accessoires que les coûts effectifs, art. 257a et 257b CO; art. 4 & 8 OBLF.
(...)"
B. B.a Contestant ces modifications, la locataire a saisi le 17 juillet 2008 la Commission de conciliation en matière de baux et loyers du canton de Genève; la tentative de conciliation entreprise le 10 octobre 2008 a échoué.
Le 10 novembre 2008, la bailleresse a saisi le Tribunal des baux et loyers d'une "demande en majoration de loyer et en validation d'autres modifications du bail". Renonçant en cours de procédure à la hausse de loyer contenue dans l'avis officiel du 27 juin 2008, elle a en définitive requis le tribunal de constater que l'introduction de la provision contenue dans cet avis est licite, qu'en plus des charges de 2'460 fr. par an pour le chauffage, la locataire doit payer des frais accessoires nouveaux - tels qu'énumérés dans l'avis officiel (supra let. A) - de 3'156 fr., montant à régler d'avance par acomptes mensuels, et qu'en conséquence, le loyer annuel est fixé à 21'516 fr. dès le 1er décembre 2008. La locataire a conclu au rejet de l'action.
Par arrêt du 25 mai 2010, le Tribunal des baux et loyers a débouté la bailleresse de ses conclusions.
B.b La bailleresse a requis l'annulation de ce jugement par la Chambre d'appel en matière de baux et loyers. Elle a pris des conclusions quasi identiques à celles formées en première instance, s'abstenant toutefois de préciser que le loyer annuel était en conséquence fixé à 21'516 fr. La locataire a conclu au rejet de l'appel et à la confirmation du jugement.
Par arrêt du 18 mars 2011, la cour cantonale a rejeté l'appel.
C. La bailleresse (ci-après: la recourante) interjette un recours en matière civile auprès du Tribunal fédéral. Elle conclut à l'annulation de l'arrêt de la Chambre d'appel et persiste dans les conclusions prises devant cette autorité, en requérant de surcroît qu'il lui soit donné acte de ce que le loyer annuel est en contrepartie réduit dès le 1er décembre 2008 de 24'672 fr. à 21'516 fr., charges pour chauffage et eau chaude non comprises.
La locataire (ci-après: l'intimée) conclut au rejet. L'autorité précédente se réfère à son arrêt.
Considérant en droit:
1. S'agissant d'une affaire de bail à loyer, le recours n'est recevable que si la valeur litigieuse s'élève au moins à 15'000 fr. (art. 74 al. 1 let. a LTF). En l'occurrence, restaient litigieux devant l'autorité précédente (cf. art. 51 al. 1 let. a LTF) les frais accessoires que la recourante souhaite extraire du loyer net pour les facturer séparément à l'intimée en percevant une provision mensuelle de 263 fr. Il s'agit de prestations périodiques de durée indéterminée puisque le bail est reconductible tacitement (cf. art. 255 al. 3 CO et ATF 114 II 165 consid. 2b). Dans un tel cas, la valeur litigieuse est déterminée par le montant annuel de la prestation multiplié par vingt (art. 51 al. 4 LTF). Il s'ensuit que la valeur litigieuse minimale est atteinte (263 x 12 = 3'156 x 20 = 63'120 fr.), comme l'a du reste indiqué l'autorité précédente sans donner lieu à une critique de l'une ou l'autre partie.
Pour le surplus, le présent recours est formé par une partie ayant pris part à l'instance précédente et ayant succombé dans ses conclusions (art. 76 al. 1 LTF). Dirigé contre un jugement final (art. 90 LTF) rendu par une autorité cantonale de dernière instance (art. 75 LTF), déposé dans le délai (art. 100 al. 1 LTF en relation avec l'art. 46 al. 1 let. a LTF) et la forme (art. 42 LTF) prévus par la loi, il est en principe recevable.
2. 2.1 Le recours en matière civile peut être formé pour violation du droit tel que défini aux art. 95 et 96 LTF. Le Tribunal fédéral revoit librement l'application du droit fédéral (cf. art. 106 al. 1 LTF); n'étant pas lié par l'argumentation des parties, il s'en tient cependant, d'ordinaire, aux questions de droit que la partie recourante soulève conformément aux exigences légales relatives à la motivation du recours (art. 42 al. 2 LTF; ATF 135 III 397 consid. 1.4).
2.2 Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF).
Dans un exposé liminaire, la recourante présente une version des faits qui s'écarte de celle retenue par les juges cantonaux. Il ne saurait en être tenu compte, dès lors que la recourante ne se prévaut pas d'un établissement arbitraire des faits, ou contraire au droit (cf. art. 97 al. 1 LTF; ATF 133 II 249 consid. 1.4.3).
Aucun fait nouveau ni preuve nouvelle ne peut être présenté dans un recours au Tribunal fédéral, sauf à résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF). Cette exception permet uniquement d'alléguer des faits qui ne sont devenus pertinents qu'en raison de l'argumentation inattendue de l'autorité précédente (arrêt 4A_269/2010 du 23 août 2010 consid. 1.3, in SJ 2011 I 58).
En l'occurrence, la recourante a produit des décomptes de frais accessoires et des tableaux de répartition des dépenses pour la période du 1er octobre 2008 au 30 septembre 2010 (chiffre IV de son bordereau de pièces complémentaires). Ces pièces sont irrecevables, les conditions restrictives de l'art. 99 al. 1 LTF n'étant pas réalisées; la recourante ne saurait sérieusement prétendre que la question de l'adéquation de la provision demandée par rapport aux frais effectifs encourus constitue un élément objectivement imprévisible, alors que l'intimée soulevait déjà le problème dans son mémoire-réponse du 19 juin 2009.
3. 3.1 La recourante se plaint d'une violation de l'art. 19 OBLF (RS 221.213.11). L'autorité précédente aurait exigé à tort que l'avis du 27 juin 2008 contienne des calculs pour chaque poste de frais accessoires et permette de comparer les frais inclus dans le loyer net avec les nouveaux frais facturés séparément. Outre que de telles exigences seraient impraticables sur une formule officielle, la Cour d'appel se serait écartée de la loi et de la jurisprudence relatives à la motivation qui doit accompagner une modification unilatérale du bail. La recourante fait observer qu'en cas d'augmentation de loyer, la formule officielle n'a pas à fournir le détail du calcul de rendement ou du calcul "relatif". De l'art. 20 al. 1 OBLF - qui permet au locataire d'exiger des chiffres précis en cas de hausse de loyer fondée sur une augmentation des coûts ou sur une amélioration créant une plus-value -, il faudrait déduire a contrario que des calculs précis n'avaient pas à figurer sur l'avis litigieux. La recourante aurait suffisamment renseigné l'intimée sur le calcul des nouvelles provisions grâce aux pièces produites en première instance cantonale.
3. 3.1 La recourante se plaint d'une violation de l'art. 19 OBLF (RS 221.213.11). L'autorité précédente aurait exigé à tort que l'avis du 27 juin 2008 contienne des calculs pour chaque poste de frais accessoires et permette de comparer les frais inclus dans le loyer net avec les nouveaux frais facturés séparément. Outre que de telles exigences seraient impraticables sur une formule officielle, la Cour d'appel se serait écartée de la loi et de la jurisprudence relatives à la motivation qui doit accompagner une modification unilatérale du bail. La recourante fait observer qu'en cas d'augmentation de loyer, la formule officielle n'a pas à fournir le détail du calcul de rendement ou du calcul "relatif". De l'art. 20 al. 1 OBLF - qui permet au locataire d'exiger des chiffres précis en cas de hausse de loyer fondée sur une augmentation des coûts ou sur une amélioration créant une plus-value -, il faudrait déduire a contrario que des calculs précis n'avaient pas à figurer sur l'avis litigieux. La recourante aurait suffisamment renseigné l'intimée sur le calcul des nouvelles provisions grâce aux pièces produites en première instance cantonale.
3.2 3.2.1 En matière de baux d'habitations et de locaux commerciaux, on entend par frais accessoires les dépenses effectives du bailleur pour des prestations en rapport avec l'usage de la chose, telles que frais de chauffage, d'eau chaude et autres frais d'exploitation, ainsi que les contributions publiques qui résultent de l'utilisation de la chose (art. 257b al. 1 CO). De tels frais ne sont à la charge du locataire que si cela a été convenu spécialement (art. 257a al. 2 CO); dans ce cas, les parties peuvent prévoir un système forfaitaire ou un système fondé sur les coûts effectifs, avec versement d'un acompte à valoir sur le décompte final (art. 4 OBLF; DAVID LACHAT, Le bail à loyer, 2008, p. 336 nos 2.4 et 2.5). A défaut de convention, ces frais sont compris dans le loyer (ATF 121 III 460 consid. 2a/aa).
En cours de contrat, le bailleur peut décider de modifier le régime des frais accessoires, en particulier de facturer séparément au locataire des frais accessoires jusque-là inclus dans le montant du loyer ou de facturer des frais nouvellement survenus. Il doit toutefois procéder conformément à l'art. 269d CO, et le locataire peut contester la modification s'il la juge abusive (art. 270b CO; ATF 121 III 460 consid. 2a/bb et consid. 3; LACHAT, op. cit., p. 336 s. nos 3.1 et 3.2).
Selon l'art. 269d al. 1 et 2 CO, l'avis de majoration du loyer, avec indication des motifs, doit parvenir au locataire dix jours au moins avant le début du délai de résiliation et être effectué au moyen d'une formule agréée par le canton; la majoration de loyer est nulle lorsqu'elle n'est pas notifiée au moyen de la formule officielle, que les motifs ne sont pas indiqués ou qu'elle est assortie d'une résiliation ou d'une menace de résiliation. Ces règles s'appliquent dans la même mesure à la modification unilatérale au détriment du locataire consistant par exemple à facturer séparément les frais accessoires précédemment inclus dans le loyer (art. 269d al. 3 CO et ATF 121 III 460 consid. 4a).
L'art. 19 OBLF exige que la formule destinée à communiquer au locataire la modification unilatérale du contrat contienne la désignation des prétentions, la date de leur entrée en vigueur, les motifs précis justifiant ces prétentions (al. 1 let. b), ainsi que les conditions légales dans lesquelles le locataire peut contester le bien-fondé de la prétention, la liste des autorités de conciliation existant dans le canton et leur compétence à raison du lieu (al. 1 let. c). Si le motif figure dans une lettre d'accompagnement, le bailleur doit se référer expressément à cette lettre dans la formule officielle (al. 1bis); un tel mode de procéder était auparavant prohibé par la jurisprudence (cf. ATF 120 II 206 consid. 3b).
Selon la jurisprudence, l'art. 269d CO prescrit une forme écrite qualifiée qui s'étend à la motivation de la modification annoncée. Les renseignements donnés par un autre moyen peuvent préciser ou servir à l'interprétation des motifs mentionnés sur l'avis formel - ou sur l'annexe, conformément à l'art. 19 al. 1bis OBLF -, mais non les étendre ni remplacer une indication omise. Les motifs doivent être précis; ils doivent permettre au locataire de saisir la portée et la justification de la modification de manière à pouvoir apprécier en pleine connaissance de cause l'opportunité de la contester ou non (ATF 121 III 6 consid. 3a et 460 consid. 4a/bb et /cc; ATF 117 II 458 consid. 2a; plus récemment, arrêt 4A_409/2009 du 1 février 2010 consid. 2.1).
La motivation telle qu'indiquée dans la formule officielle constitue une manifestation de volonté du bailleur (arrêt 4C.245/1999 du 3 janvier 2000 consid. 3a, in mp 2000 p. 27; ATF 118 II 130 consid. 2b). Si le locataire et le bailleur ne sont pas d'accord sur le sens ou la portée de cette communication, il faut l'interpréter selon le principe de la confiance; sont prises en compte les facultés de compréhension du locataire et toutes les circonstances du cas particulier (ATF 121 III 460 consid. 4a/cc; arrêt 4A_409/2009 précité, ibidem).
La motivation de la modification est insuffisante lorsqu'elle n'indique pas à quels frais jusque-là inclus dans le loyer correspondent les frais qui seront désormais facturés séparément; le locataire ne peut se faire une idée de la portée de la modification que s'il a connaissance des montants précédemment dépensés par le bailleur pour les frais qui seront désormais perçus séparément. L'exigence de précision implique non seulement de désigner en détail quels frais accessoires seront à l'avenir facturés directement au locataire, mais aussi de faire apparaître quelle incidence revêt la distraction des frais sur la structure du loyer. On ne saurait renvoyer le locataire à consulter les bases de calcul internes du bailleur, sauf à méconnaître le sens de l'obligation de motiver (arrêt 4C.137/1999 du 23 août 1999 consid. 2b et 2c, in MRA 2000 p. 301). En bref, le locataire doit être en mesure de déterminer si le montant du nouvel acompte correspond à des coûts effectifs, respectivement si le loyer va subir une augmentation (cf. ATF 121 III 460 consid. 4b).
La modification unilatérale qui ne comporte aucune motivation ou qui n'est pas motivée de façon suffisamment précise est nulle (arrêts 4C.330/2002 du 31 janvier 2003 consid. 3.1, in MRA 2003 p. 39; 4C.245/1999 précité consid. 3a; 4C.137/1999 précité consid. 2d, concernant un cas de nullité partielle; ATF 121 III 6 consid. 3b et 460 consid. 4a/cc).
3.2.2 La doctrine a émis des critiques sur cette jurisprudence qui serait contraire à la lettre de l'art. 269d CO, lequel ne prévoit la nullité que si les motifs ne sont pas indiqués. Une telle pratique créerait des problèmes de sécurité du droit dès lors qu'il serait difficile de déterminer si une motivation est suffisamment précise ou non. Il est aussi objecté que l'art. 19 OBLF, en exigeant l'indication de motifs précis, va plus loin que l'art. 269d CO (SVIT-Kommentar, Das schweizerische Mietrecht, 3e éd. 2008, n° 33 ss ad art. 269d CO; SOMMER/OBERLE, Der Mietzins, 3e éd. 2007, p. 67; PHILIPPE RICHARD, Les frais accessoires au loyer dans les baux d'habitations et de locaux commerciaux, in 12e Séminaire sur le droit du bail, Neuchâtel 2002, p. 22). Pour certains auteurs, le locataire qui estime la motivation pas assez précise devrait à tout le moins agir dans le délai de contestation de l'art. 270b CO (SVIT-Kommentar, op. cit., n° 35 ad art. 269d CO; ROGER WEBER, in Basler Kommentar, Obligationenrecht I, 4e éd. 2007, n° 7b ad art. 269d CO; critique sur cette proposition, PETER HIGI, Zürcher Kommentar, 4e éd. 1998, n° 118 ad art. 269d CO).
3.3 En l'occurrence, l'avis litigieux du 27 juin 2008 annonce l'introduction d'une provision annuelle de 3'156 fr. (soit 263 fr. par mois) pour divers frais accessoires, moyennant une réduction proportionnelle du loyer. Comme le relève l'autorité précédente, l'avis officiel n'indique pas quelles dépenses occasionnent les frais actuellement pris en charge par la recourante et qui devraient à l'avenir être facturés directement à l'intimée. Aucune précision n'est donnée sur les bases de calcul retenues pour le calcul de la provision. L'intimée est ainsi privée d'élément lui permettant d'apprécier si le montant de la provision est correctement estimé au regard du coût effectif des frais qu'elle devra désormais assumer; la simple précision selon laquelle le loyer est réduit proportionnellement aux acomptes exigés ne lui permet de tirer aucune conclusion à cet égard. S'il n'est certes pas possible de chiffrer avec exactitude le coût futur des frais liés à l'usage (SVIT-Kommentar, op. cit., n° 26 ad art. 269d CO), la locataire doit à tout le moins être renseignée sur les coûts qu'ils ont générés jusque-là. L'avis litigieux ne permet pas non plus de savoir si de nouveaux frais sont introduits par rapport à ceux qui étaient inclus dans le loyer. La recourante objecte que les pièces produites en première instance cantonale sont suffisantes pour évaluer le bien-fondé de l'introduction des acomptes pour les frais accessoires. L'arrêt retient toutefois que les tableaux produits relatifs aux frais généraux de l'immeuble ne permettent pas de saisir l'étendue des postes de frais accessoires. Quoi qu'il en soit, il importe peu que la bailleresse soit ou non parvenue à justifier en cours de procédure le bien-fondé du montant de la provision requise. La portée et les motifs de la modification doivent en effet impérativement revêtir la forme écrite qualifiée, cas échéant en faisant usage de la faculté offerte par l'art. 19 al. 1bis OBLF. La doctrine propose des modèles de formulations relativement brèves qui permettent toutefois au locataire de percevoir la portée d'une modification telle que celle envisagée par la recourante (cf. SVIT-Kommentar, op. cit., n° 68 ad art. 269d CO, cité par BEAT ROHRER, Nebenkosten, MRA 2008 p. 109; SOMMER/OBERLE, op. cit., p. 89; ces modèles n'envisagent pas l'introduction de frais nouveaux).
En bref, l'avis officiel ne permettait pas à l'intimée d'apprécier si la modification requise par la recourante était économiquement neutre ou si elle impliquait une augmentation de loyer, voire l'introduction de nouveaux coûts. La recourante établit à tort un parallèle avec l'exigence de motivation en cas de hausse de loyer fondée sur une augmentation des coûts ou une amélioration avec plus-value. Dans une telle hypothèse, la comparaison de l'ancien et du nouveau loyer permet sans autre de mesurer la portée de la modification, de sorte qu'il n'est pas nécessaire que l'avis officiel contienne le calcul précis à l'origine de la hausse (cf. art. 20 OBLF). Dans le cas d'espèce, la comparaison des deux loyers n'offre pas une information suffisante puisque la locataire ignore quels frais effectifs l'ancien loyer servait à couvrir.
L'autorité précédente n'a ainsi pas enfreint le droit fédéral en considérant que la modification relative aux frais accessoires était nulle. Indépendamment des débats sur la nature consensuelle ou non de la modification signifiée par le bailleur, il faut admettre que cette faculté consacrée à l'art. 269d CO est étroitement liée au droit de contestation du locataire (cf. SVIT-Kommentar, op. cit., n° 3 ad art. 269d CO; WEBER, op. cit., nos 1 et 1a ad art. 269d CO; cf. aussi HIGI, op. cit., n° 153 des remarques préliminaires aux art. 269-270e CO; ATF 124 III 67 consid. 3). Si le locataire renonce à faire valoir le caractère abusif de la modification, il doit le faire en connaissance de cause. Tel ne peut pas être le cas lorsque la portée même de la modification n'est pas discernable. La sanction ne saurait différer de celle prévue pour l'hypothèse où l'étendue de la modification apparaît clairement mais où les motifs qui la justifient ne sont pas précisés.
3.4 La recourante soulève encore des griefs à l'encontre d'autres motifs qui ont conduit l'autorité précédente à constater la nullité de la modification relative aux frais accessoires. Ces moyens sont toutefois privés d'objet dès lors que le vice relevé ci-dessus appelle à lui seul une telle sanction.
3.5 Le recours doit ainsi être rejeté.
4. La recourante, qui succombe, supportera les frais judiciaires et versera à l'intimée une indemnité à titre de dépens (art. 66 al. 1 et art. 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge de la recourante.
3. La recourante versera à l'intimée une indemnité de 3'500 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux mandataires des parties et à la Chambre d'appel en matière de baux et loyers du canton de Genève.
Lausanne, le 6 juillet 2011
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: La Greffière:
Klett Monti