Faits:
A. Depuis le 1er mai 1983, C._ est locataire à Genève d'un appartement qui appartient à la société immobilière X._ SA (bailleresse). Le loyer initial était de 9'600 fr. par année (800 fr. par mois); il a été augmenté en dernier lieu par avis du 17 septembre 1991 à 12'156 fr. par an (1'013 fr. par mois).
Par avis de majoration du 13 mai 2009, la bailleresse a déclaré porter le loyer annuel à 17'424 fr. (1'452 fr. par mois) dès le 1er janvier 2010, charges non comprises; cette majoration était motivée sur une feuille annexée à l'avis officiel. La locataire a contesté la hausse devant la Commission de conciliation en matière de baux et loyers; la tentative de conciliation s'est soldée par un échec.
La bailleresse a saisi le Tribunal des baux et loyers en validation de la hausse. A titre reconventionnel, la locataire a demandé une réduction du loyer de 20% ensuite de la baisse du taux hypothécaire de 6,75% à 3,25%. Statuant par jugement du 27 avril 2010 notifié aux parties le 4 mai 2010, le Tribunal a débouté la bailleresse de ses conclusions au motif que l'avis de majoration de loyer était nul car mélangeant de façon incompréhensible les motifs absolus et relatifs de hausse. Le Tribunal a par contre admis la demande reconventionnelle. Constatant que le taux hypothécaire déterminant avait baissé de 6,75% en septembre 1991 à 3,5% en mai 2009 et justifiait ainsi une réduction de loyer de 25,37%, il a accordé la réduction de 20% requise par la locataire et fixé en conséquence le loyer à 9'725 fr. par an (810 fr. par mois) dès le 1er janvier 2010, charges non comprises.
La bailleresse a déféré ce jugement à la Chambre des baux et loyers de la Cour de justice, qui a rejeté l'appel par arrêt du 17 octobre 2011. Appliquant le droit de procédure cantonal, la Chambre a déclaré irrecevables de nouveaux allégués de fait et écarté de nouvelles pièces; sur le fond, elle a fait sienne la motivation des premiers juges.
B. Devant le Tribunal fédéral, la bailleresse (ci-après: la recourante) interjette un recours en matière civile, concluant à ce que la baisse de loyer accordée à la locataire (ci-après: l'intimée) soit annulée. Cette dernière conclut au rejet du recours. L'autorité précédente se réfère à son arrêt.
La recourante a déposé par la suite des observations. L'intimée a renoncé à faire usage de cette faculté. Par ordonnance du 1er décembre 2011, la présidente de la cour de céans a accordé l'effet suspensif.
Considérant en droit:
1. Dans les causes de droit du bail à loyer, la valeur litigieuse ouvrant la voie du recours en matière civile est de 15'000 fr. (art. 74 al. 1 let. a LTF). Elle est déterminée par les conclusions restées litigieuses devant l'instance précédente (art. 51 al. 1 let. a LTF). Le montant de la demande principale et celui de la demande reconventionnelle ne sont pas additionnés (art. 53 al. 1 LTF). Les prestations périodiques ont la valeur du capital qu'elles représentent; si leur durée est indéterminée ou illimitée, le capital correspond aux prestations durant vingt ans (art. 51 al. 4 LTF). En instance d'appel, la conclusion principale portait sur une augmentation de loyer de 5'268 fr. par année, si bien que la valeur litigieuse déterminante s'élève à 105'360 fr. (5'268 x 20); le recours est recevable ratione valoris.
La recourante conteste uniquement l'admission de la demande reconventionnelle de l'intimée en réduction du loyer. Le rejet de la demande principale en validation de la hausse de loyer n'est pas remis en cause; ce point est partant définitivement acquis.
2. La recourante se plaint d'une violation de l'art. 270a CO. Elle reproche à l'autorité cantonale d'avoir réduit le loyer en fonction de la baisse du taux hypothécaire sans examiner si la chose louée lui apportait un rendement excessif et sans examiner si la baisse pouvait être compensée par des motifs de hausse tels qu'une augmentation des charges. Elle considère en outre que l'intimée agit de façon contraire à la bonne foi en invoquant le caractère abusif du loyer après 20 ans.
2.1 La recourante soutient que le rendement net des fonds propres n'est que de 2,21%, renvoyant sans autre explication au tableau de rendement net reproduit dans son mémoire d'appel. Or, la cour de céans statue sur la base de l'état de fait retenu dans l'arrêt attaqué (art. 105 al. 1 LTF), et celui-ci est en l'occurrence muet au sujet du rendement des fonds propres. En outre, la motivation du recours doit figurer dans l'acte de recours; un simple renvoi comme en l'espèce au contenu de mémoires produits en instance cantonale n'est pas licite (art. 42 LTF; ATF 134 II 244 consid. 2.1; FLORENCE AUBRY GIRARDIN, in Commentaire de la LTF, 2009, n° 33 ad art. 42 LTF). Enfin, les faits auxquels la recourante renvoie semblent être ceux que la Chambre d'appel a déclaré irrecevables; la recourante ne démontre ni même n'allègue que ce faisant, la Chambre aurait appliqué arbitrairement le droit de procédure cantonal et ainsi violé l'interdiction constitutionnelle de l'arbitraire (cf. art. 95 LTF e contrario et ATF 133 III 462 consid. 2.3; art. 106 al. 2 LTF et ATF 134 I 83 consid. 3.2). Il n'y a pas à entrer en matière.
La recourante se réfère ensuite à ce qu'elle estime être le loyer usuel du quartier, qui serait nettement plus élevé que celui payé par l'intimée; elle estime aberrant de réduire le loyer en raison d'une baisse du taux hypothécaire sans tenir compte du fait que ce loyer est déjà en-dessous du loyer usuel. Toutefois, la Chambre d'appel n'a pas constaté quel était le loyer usuel du quartier, et la recourante ne lui reproche pas précisément d'avoir méconnu des allégations et preuves présentées en temps utile. Quoi qu'il en soit, la cour d'appel a relevé qu'il n'était pas admissible d'invoquer pêle-mêle des motifs de hausse absolus et relatifs, et la recourante n'a pas recouru contre le refus de valider la hausse de loyer, si bien que ce point est acquis; cela exclut de compenser la réduction de loyer due à la baisse du taux hypothécaire avec une augmentation du loyer.
Cette dernière remarque prive d'objet la question de savoir s'il existe d'autres motifs de hausse, ce qui ne ressort pas de l'arrêt attaqué. Dans son mémoire de recours, la recourante ne dit mot à ce sujet et ne soutient pas en avoir concrètement allégué. Ce n'est que dans ses observations qu'elle affirme sans autres détails avoir précisé que les critères invoqués à l'appui de la hausse de loyer pouvaient également servir à contester une demande de baisse de loyer sollicitée après une longue période de non-augmentation de loyer. Une telle motivation ne saurait suffire; elle semble au demeurant se référer au moins partiellement à des faits et preuves que l'autorité d'appel a déclaré irrecevables pour cause de tardiveté.
2.2 Une demande de diminution de loyer s'apprécie en règle générale selon la méthode relative. Le locataire peut demander une diminution notamment à cause d'une baisse des charges du bailleur, en particulier d'une baisse du taux hypothécaire de référence intervenue depuis la dernière fixation du loyer (ATF 133 III 61 consid. 3.2.2.2). Par dernière fixation, il faut entendre, en dehors de la détermination du loyer en début de bail, la modification du loyer correspondant à une adaptation à de nouvelles bases de calcul; une modification du bail qui ne remet pas en cause le montant du loyer, en d'autres termes qui ne constitue pas une nouvelle fixation du loyer en fonction de bases de calcul modifiées, ne constitue pas un point de référence pour juger de l'admissibilité d'une adaptation ultérieure (ATF 126 III 124 consid. 2a p. 126).
Lors d'une modification de loyer faisant suite à une variation du taux hypothécaire, il y a lieu en outre de voir si et dans quelle mesure les variations antérieures ont entraîné une modification du loyer (art. 13 al. 4 OBLF - RS 221.213.11). Il s'agit d'une brèche pratiquée dans la méthode relative. Le juge ne s'arrête pas à la dernière modification du loyer déclarée unilatéralement, mais poursuit son examen rétrospectif jusqu'à la dernière modification du loyer consécutive à une variation du taux hypothécaire (ATF 119 II 348 consid. 4b/dd). La portée de cette règle a toutefois été atténuée; le juge ne remonte pas au-delà d'une modification consensuelle du loyer, ou d'une transaction qui a pris en compte le taux hypothécaire, ou d'une précédente majoration de loyer fondée sur le taux hypothécaire que le locataire n'a pas contestée, ou enfin d'une fixation du loyer selon la méthode absolue (ATF 119 II 348 consid. 4b; cf. aussi ATF 124 III 67 consid. 3 p. 69).
Il découle de l'art. 13 al. 4 OBLF et de la jurisprudence y relative que le fait de renoncer même pendant une longue période à demander une baisse de loyer fondée sur l'évolution du taux hypothécaire ne prive pas en soi le locataire du droit de s'en prévaloir ultérieurement. Est seul déterminant le point de savoir si une fixation de loyer est intervenue dans l'intervalle et sur la base de quels critères elle a été faite. La recourante elle-même souligne qu'aucune fixation de loyer n'est intervenue entre 1991 et 2009, ce qui scelle le sort du grief d'abus de droit, formulé au demeurant après l'expiration du délai de recours.
Le loyer a été fixé à 9'600 fr. par an ou 800 fr. par mois en 1983; il n'a pas été constaté quel était le taux hypothécaire déterminant à cette époque. En septembre 1991, à une époque où le taux hypothécaire déterminant était de 6,75%, le loyer a été augmenté à 12'156 fr. par an ou 1'013 fr. par mois, ce qui correspond à une augmentation d'environ 26%; l'intimée n'a pas contesté cette augmentation, dont les motifs ne ressortent pas de l'arrêt attaqué. Au moment de l'augmentation litigieuse en mai 2009, le taux hypothécaire de référence était de 3,5%.
Il est notoire que les taux hypothécaires ont augmenté entre 1983 et 1991; celui pratiqué par la Banque cantonale genevoise a passé de 5,50% à 6,75% (cf. DAVID LACHAT, Le bail à loyer, 2008, p. 863), élément qui justifiait à lui seul une augmentation de loyer de 11% (art. 13 al. 1 OBLF; cf. LACHAT, op. cit., p. 867). Il peut dès lors être admis que cette variation du taux a motivé au moins partiellement l'augmentation du loyer en septembre 1991. Aucune des parties à la présente procédure ne soutient le contraire et la recourante, en particulier, ne prétend pas que l'augmentation de 1991 serait exclusivement imputables à d'autres motifs et que le taux hypothécaire déterminant pour la réduction de loyer requise par l'intimée serait en conséquence celui de 1983. La réduction se détermine donc bien en fonction de la baisse du taux entre 1991 et 2009, de 6,75% à 3,5%.
2.3 L'autorité cantonale, se référant au jugement de première instance, a retenu que cette baisse aurait justifié une diminution de loyer de 25,37% (chiffre repris de LACHAT, op. cit., p. 868), supérieure à celle de 20% demandée par l'intimée. Le loyer annuel de 12'156 fr. fixé en 1991 doit ainsi être réduit de 20%, ce qui donne un nouveau loyer annuel de 9'725 fr., comme retenu dans l'arrêt attaqué.
3. La recourante, qui succombe, supporte les frais et dépens de la procédure (art. 66 et 68 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge de la recourante.
3. La recourante versera à l'intimée une indemnité de 2'500 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux parties et à la Chambre des baux et loyers de la Cour de justice du canton de Genève.
Lausanne, le 9 février 2012
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
La Greffière: Monti