Faits:
A. X._ en qualité de bailleur et Y._ en qualité de locataire ont conclu un contrat de bail prenant effet le 1er octobre 2008 et dont l'objet était un appartement de trois pièces à Genève. Le loyer, précédemment de 18'000 fr. par an, respectivement 1'500 fr. par mois, était porté à 20'400 fr. par an, respectivement 1'700 fr. par mois; sur la formule officielle, l'augmentation était motivée par un renvoi à l'art. 269a let. a CO relatif aux loyers usuels du quartier.
B. Le 29 octobre 2008, la locataire a saisi la Commission de conciliation en matière de baux et loyers d'une requête en contestation du loyer initial; elle demandait à ce que le loyer annuel soit fixé à 11'000 fr. Non conciliée, l'affaire a été portée devant le Tribunal des baux et loyers du canton de Genève; par jugement du 8 février 2010, celui-ci a fixé le loyer annuel à 15'000 fr. Le 15 novembre 2010, la Chambre d'appel en matière de baux et loyers de la Cour de justice a rejeté un appel du bailleur tendant à faire fixer le loyer à 18'000 fr. au minimum.
C. Le bailleur (recourant) interjette un recours en matière civile auprès du Tribunal fédéral, concluant à ce que le loyer annuel soit fixé à 18'000 fr. au minimum. La locataire (intimée) conclut au rejet.
L'autorité précédente se réfère aux considérants de son arrêt.
Considérant en droit:
1. Le litige porte sur le montant du loyer dû en vertu d'un contrat de bail de durée indéterminée (cf. art. 255 al. 2 et 3 CO). La valeur litigieuse en cas de recours est déterminée par les conclusions restées litigieuses devant l'autorité précédente, à savoir une différence de loyer de 3'000 fr. par an entre, d'une part, le loyer de 15'000 fr. fixé par le juge de première instance et accepté par l'intimée et, d'autre part, le loyer de 18'000 fr. demandé par le recourant en seconde instance (art. 51 al. 1 let. a LTF; ATF 121 III 397 consid. 1); les prestations périodiques de durée indéterminée sont capitalisées à raison de vingt fois le montant de la prestation annuelle (art. 51 al. 4 LTF); il en résulte en l'espèce une valeur litigieuse de 60'000 fr. Pour le surplus, la décision émane de la dernière instance cantonale. La voie du recours en matière civile est ouverte (art. 74 al. 1 let. a et art. 75 al. 1 LTF).
Le recours doit être succinctement motivé (art. 42 al. 2 LTF), ce qui suppose que le recourant discute au moins brièvement les considérants de l'arrêt attaqué (ATF 134 II 244 consid. 2.1); cette exigence est une condition de recevabilité (cf. art. 108 al. 1 let. b LTF). Le Tribunal fédéral n'examine donc en principe que les griefs invoqués et suffisamment motivés (ATF 134 II 244 consid. 2.1; 133 III 545 consid. 2.2). La règle est absolue pour les griefs constitutionnels qui doivent être expressément invoqués et motivés (art. 106 al. 2 LTF); pour ces moyens, l'acte de recours doit, sous peine d'irrecevabilité, nécessairement contenir un exposé succinct des droits ou principes constitutionnels violés et exposer de manière claire et circonstanciée en quoi consiste leur violation (ATF 134 I 83 consid. 3.2).
2. En vertu de l'art. 270 al. 1 CO, lorsque le locataire estime que le montant du loyer initial est abusif au sens des art. 269 et 269a CO, il peut le contester notamment si le bailleur a sensiblement augmenté ce loyer par rapport au précédent loyer (let. b). L'art. 270 al. 1 CO ne règle que les conditions formelles auxquelles est subordonnée la recevabilité d'une demande de diminution du loyer initial; ce sont les art. 269 et 269a CO exclusivement qui fournissent les critères matériels permettant de juger du bien-fondé d'une telle demande (ATF 120 II 240 consid. 2 p. 243).
Le nouveau locataire qui se voit notifier une formule officielle dans laquelle figurent le montant de l'ancien loyer et celui du loyer initial, ainsi que les motifs précis justifiant le passage de l'un à l'autre, peut admettre de bonne foi que ce sont ces motifs-là, et eux seuls, qui ont entraîné une augmentation de son loyer initial par rapport au précédent loyer. Sa bonne foi mérite d'être protégée; le juge ne saurait examiner l'admissibilité du loyer initial à la lumière d'autres critères, à moins que le locataire ne réclame, de son côté, un tel examen, lequel ne peut pas lui être refusé (ATF 121 III 364 consid. 4b p. 367). En effet, lors d'une contestation du loyer initial, le locataire doit être admis à apporter la preuve, par un calcul selon la méthode absolue, que le loyer convenu procure au bailleur un rendement excessif au sens de l'art. 269 CO (ATF 124 III 310 consid. 2b). Cette démarche peut conduire à fixer un loyer inférieur à celui payé par le précédent locataire (SVIT-Kommentar, Das schweizerische Mietrecht, 3e éd. 2008, n° 26 i.f. ad art. 270 CO). Outre que la référence au précédent loyer n'a aucun sens dans le cadre de l'application de la méthode absolue, un tel procédé irait à l'encontre du but de la contestation du loyer initial, qui n'est pas de vérifier si l'augmentation par rapport au précédent loyer est abusive, mais de contrôler si le loyer en tant que tel excède la norme (cf. ATF 136 III 82 consid. 3.3 p. 88; 120 II 341 consid. 6a).
En l'espèce, le nouveau loyer a été fixé selon les formes prescrites, par l'utilisation de la formule officielle; la clause fixant le loyer n'est donc pas nulle (cf. art. 270 al. 2 CO; ATF 120 II 341 consid. 5). Dans un tel cas, l'examen porte uniquement sur l'éventuel caractère abusif du loyer convenu entre les parties (cf. ATF 120 II 341 consid. 6c).
3. Le recourant a motivé l'augmentation de loyer uniquement par l'adaptation aux loyers usuels dans le quartier, lesquels ne sont en règle générale pas abusifs (art. 269a let. a CO). La Chambre d'appel, comme avant elle le Tribunal des baux et loyers, a toutefois jugé que les éléments de comparaison produits étaient insuffisants pour déterminer le loyer usuel pour des appartements comparables (cf. art. 11 OBLF - RS 221.213.11; ATF 136 III 74). Dans la mesure où le recourant affirme sans autre démonstration que les cinq loyers comparatifs par lui présentés constituaient des exemples pertinents de loyers appliqués dans le quartier, sa critique est irrecevable faute de motivation suffisante. Il est partant acquis que le recourant n'a pas démontré que le loyer demandé se situait dans les limites des loyers usuels dans le quartier.
4. Le recourant se plaint d'une violation de l'art. 8 CC, au motif que l'autorité cantonale n'a pas ordonné le calcul de rendement sollicité par les deux parties susceptible de démontrer que le rendement obtenu n'était pas abusif.
L'intimée s'étant prévalue d'un rendement abusif (art. 269 CO), le Tribunal des baux et loyers a requis le recourant de fournir les pièces nécessaires au calcul de rendement. Selon une constatation de fait de la Chambre d'appel qui lie le Tribunal fédéral (art. 105 al. 1 LTF), le recourant n'a pas donné suite à cette ordonnance; ce dernier ne le conteste d'ailleurs pas.
Il appartient au locataire de prouver que le loyer convenu procure au bailleur un rendement excessif. Mais selon les principes généraux tirés des règles de la bonne foi, la partie qui n'a pas la charge de la preuve doit néanmoins collaborer loyalement à l'administration des preuves et fournir les éléments qu'elle est seule à détenir (ATF 115 II 1 consid. 4); ce principe est affirmé de manière expresse en droit du bail (art. 274d al. 3 CO). Dès lors que le bailleur détient seul les documents permettant un calcul de rendement, on peut donc attendre de lui qu'il les produise (arrêt 4C.61/2005 du 27 mai 2005 consid. 4.3.2, in SJ 2006 I 34; cf. aussi ATF 120 II 105 consid. 3c).
En l'espèce, le recourant n'a pas donné suite à l'injonction du juge de produire ces documents. Dans ces circonstances, la Chambre d'appel n'a pas violé le droit du recourant à la preuve en n'ordonnant pas le calcul de rendement que celui-ci rendait lui-même impossible par son refus de produire les pièces nécessaires.
Les conclusions à tirer du refus de collaborer relève de l'appréciation des preuves (ATF 119 II 305). Quoi qu'il en soit, l'impossibilité de procéder au calcul du rendement ensuite d'un défaut de collaboration du bailleur ne peut pas conduire à trancher en défaveur du locataire simplement parce que ce dernier supporte le fardeau de la preuve pour le caractère abusif du loyer.
5. Le recourant, invoquant les art. 269 et 269a CO ainsi que l'art. 11 OBLF et l'art. 9 Cst., se plaint de ce que le loyer a été fixé sur la base de statistiques cantonales que le Tribunal fédéral considère comme insuffisamment précises pour déterminer le loyer usuel du quartier.
5.1 La cour de céans a jugé en 1997 que, d'une manière générale, les statistiques genevoises ne constituaient pas une statistique au sens de l'art. 11 al. 4 OBLF dans la mesure où elles ne contenaient que le loyer moyen des appartements selon le nombre de pièces et ne fournissaient pas de données suffisamment différenciées sur les éléments essentiels nécessaires à des comparaisons concluantes, à savoir l'emplacement, la dimension, l'équipement, l'état et l'année de construction (ATF 123 III 317 consid. 4c/cc). Dans un arrêt non publié au Recueil officiel rendu le 11 mars 2008 en séance publique, elle a constaté que ces statistiques genevoises n'étaient de loin pas aussi détaillées que celles contenues dans le "relevé des prix des loyers" bâlois dont il a été jugé qu'il donnait des indications utilisables (cf. arrêt 4C.176/2003 du 13 janvier 2004 consid. 3.2, in CdB 2004 81), et elle a précisé en conséquence qu'elles n'étaient pas même assez précises pour être au moins prises en compte comme un instrument livrant des points de repère objectifs et utilisable comme relevé grossier pour l'établissement des loyers usuels, permettant le cas échéant d'en inférer que le loyer susceptible d'être obtenu d'un nouveau locataire ne pouvait être qualifié d'abusif au regard d'une nette différence de prix en rapport avec les données statistiques (arrêt 4A_472/2007 consid. 2.4, in MRA 2008 113).
En l'espèce, le Tribunal des baux et loyers n'a pas méconnu que les statistiques genevoises ne satisfaisaient pas aux exigences de l'art. 11 al. 4 OBLF, mais il a estimé qu'elles permettaient néanmoins de disposer de données approximatives permettant de fixer le loyer. Pondérant les chiffres ressortant de ces statistiques, il a constaté que le loyer mensuel moyen pour un appartement de trois pièces à Genève était de 1'393 fr. pour les baux conclus avec de nouveaux locataires les douze derniers mois et de 1'026 fr. pour les baux plus anciens. Tenant en outre compte du fait que l'objet loué était dans un état moyen et qu'il se situait à proximité d'une école, de différents commerces et transports publics, dans un environnement relativement calme et à proximité du lac et du parc des Eaux-Vives, il a, statuant ex aequo et bono, fixé le loyer à 15'000 fr. par an, respectivement 1'250 fr. par mois.
La Chambre d'appel a pour sa part jugé que rien n'indiquait que le Tribunal des baux et loyers avait excédé son pouvoir d'appréciation. Elle a aussi admis que les statistiques genevoises constituaient autant d'indications, en l'absence d'autres éléments, pour fixer le montant du loyer initial lorsque le recours à l'une ou l'autre des méthodes absolues s'avérait impossible faute de données utilisables.
5.2 L'intimée se prévalait de ce que le loyer initial était abusif et demandait à ce qu'il soit fixé à un montant inférieur à celui du loyer antérieur. L'autorité cantonale ne pouvait dès lors pas se limiter à rejeter l'augmentation de loyer et retenir le loyer payé par le locataire précédent; elle devait au contraire déterminer quel était le loyer procurant un rendement encore admissible. Or, il ne lui a pas été possible d'entreprendre le calcul du rendement faute pour le recourant d'avoir produit les pièces nécessaires à cet effet. Pour fixer le loyer admissible, elle ne disposait que des statistiques genevoises dont les données ne sont en principe pas directement exploitables.
Le défaut d'éléments pour constater le loyer usuel pour des appartements comparables était lui aussi imputable au recourant. Dans ces circonstances, il ne saurait faire reproche à l'autorité cantonale de s'être fondée, faute de mieux, sur une moyenne mathématique des loyers pour les appartements de trois pièces à Genève tirée des statistiques précitées. Pour le surplus, le recourant ne tente pas de démontrer que l'autorité cantonale a abusé de son pouvoir d'appréciation ou a abouti à un résultat insoutenable.
6. Il s'ensuit le rejet du recours. Le recourant supporte les frais et dépens de la présente procédure (art. 66 al. 1 et 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3. Le recourant est condamné à verser à l'intimée une indemnité de 2'500 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux mandataires des parties et à la Chambre d'appel en matière de baux et loyers du canton de Genève.
Lausanne, le 28 février 2011
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: La Greffière:
Klett Monti