Faits:
A. A.a En vertu d'un transfert de bail conclu le 26 septembre 2003 avec l'accord de la propriétaire Y._ SA, X._ est devenu le nouveau locataire d'une arcade commerciale d'environ 31 m2 au centre de la ville de Genève. Le bail repris échéait la première fois le 31 juillet 2004, puis était renouvelable de cinq ans en cinq ans. Le loyer indexé en dernier lieu le 1er août 2003 s'élevait à 1'350 fr. par mois (16'200 fr. par an), charges comprises. L'art. 5 du bail disposait que le locataire prenait à sa charge tous les travaux d'aménagement qu'il jugerait utiles pour son exploitation; l'art. 7 ajoutait que si, à la fin du bail, la chose louée présentait une plus-value résultant de travaux acceptés par le bailleur, le locataire s'engageait à renoncer à toute indemnité.
Dans un avenant du 4 août 2005, la bailleresse Y._ SA s'est engagée à bloquer le loyer annuel à 16'200 fr. jusqu'au 26 septembre 2008, compte tenu des importants investissements effectués dans les locaux par le locataire X._.
A.b Le 7 mai 2010, la bailleresse a adressé un rappel au locataire, qui n'avait pas payé les loyers de mars, avril et mai 2010. Le 19 mai 2010, elle lui a envoyé un courrier recommandé lui impartissant un délai de 30 jours pour s'acquitter de son dû, sous peine de résiliation du bail. Le locataire n'a pas retiré le pli et n'a pas payé les arriérés, pas plus que le nouveau loyer échu le 1er juin 2010. La bailleresse lui a alors notifié le 16 juin 2010 un nouvel avis comminatoire l'invitant à payer dans les 30 jours la somme de 5'400 fr. à titre de loyer des mois de mars à juin 2010, sous peine de résiliation du contrat pour le 31 août 2010. Le locataire n'a pas donné suite.
Par formule officielle du 23 juillet 2010, la bailleresse a résilié le contrat pour le 31 août 2010 en invoquant le défaut de paiement du loyer.
Le 20 août 2010, le locataire a saisi l'autorité genevoise de conciliation en matière de baux et loyers en déclarant contester le congé. Le 11 novembre 2010, la bailleresse a déposé auprès de cette même autorité une requête tendant à l'évacuation du locataire.
En date du 29 novembre 2010, le locataire a versé 13'500 fr. correspondant aux loyers de mars à décembre 2010. Le 30 décembre 2010, il s'est acquitté du loyer de janvier 2011. Le 27 janvier 2011, soit quatre jours avant l'audience agendée par la commission de conciliation, il a payé 8'100 fr. correspondant aux loyers de février à juillet 2011. A l'issue de l'audience en question, les deux requêtes ont été déclarées non conciliées.
Dans un courrier du 1er février 2011, le locataire a exprimé le souhait de trouver un accord avec la bailleresse, en précisant qu'il était en train de s'associer avec d'autres personnes en vue de créer des sociétés dont l'une reprendrait ses activités. Il a en outre indiqué avoir été victime d'une escroquerie. La bailleresse a répondu aux partenaires du locataire que sous toutes réserves, elle était disposée à établir un bail de trois ans, reconductible, pour un loyer annuel de 900 fr. le m2. Elle exigeait une garantie bancaire de six mois et requérait divers renseignements pour évaluer la candidature de la nouvelle société.
B. B.a Parallèlement à ces pourparlers, la bailleresse a saisi en date du 31 janvier 2011 le Tribunal des baux et loyers du canton de Genève d'une requête en évacuation du locataire. Devant cette même autorité, le locataire a déposé le 2 mars 2011 une demande concluant à l'annulation de l'avis de résiliation du 23 juillet 2010. Les deux causes ont été jointes.
Par jugement du 21 juillet 2011, le Tribunal des baux a constaté la validité de l'avis de résiliation et condamné le locataire à évacuer immédiatement les locaux. Le tribunal a considéré que les conditions du congé immédiat pour défaut de paiement au sens de l'art. 257d CO étaient réalisées et que le congé ne contrevenait pas aux règles de la bonne foi (art. 271 al. 1 CO).
B.b Le locataire a déféré cette décision à la Chambre des baux et loyers de la Cour de justice, en concluant au renvoi de la cause au Tribunal des baux. La cour a rejeté l'appel et confirmé le jugement entrepris en faisant valoir, en substance, les motifs suivants: le locataire avait réalisé des travaux d'aménagement d'une certaine ampleur, sans toutefois établir qu'ils se seraient élevés à 400'000 fr. Il savait en outre que leur amortissement devait intervenir avant 2010 et que toute indemnité était exclue de par le contrat de bail. Il n'avait pas démontré le caractère passager, voire accidentel de son impécuniosité; l'escroquerie dont il disait avoir été victime n'était pas établie. Il n'était pas non plus prouvé que la bailleresse connaissait ces circonstances lorsqu'elle avait adressé un rappel et des mises en demeure. Celle-ci s'était intéressée à la proposition du locataire de conclure un nouveau bail avec la société qu'il devait créer; dans ce contexte, elle était en droit de proposer un loyer nettement majoré. Le locataire n'avait pas allégué que le loyer annuel de 900 fr. le m2 était abusif ou sortait des limites des loyers usuels du quartier.
C. Par-devant le Tribunal fédéral, le locataire (ci-après: le recourant) interjette un recours en matière civile, dans lequel il requiert que l'arrêt de la Cour de justice soit annulé et que la cause soit renvoyée à cette autorité.
La bailleresse (ci-après: l'intimée) conclut au rejet du recours. L'autorité précédente se réfère à son arrêt.
Considérant en droit:
1. 1.1 Le recours est dirigé contre un arrêt final (art. 90 LTF) rendu en matière civile (art. 72 al. 1 LTF) par une autorité cantonale de dernière instance statuant sur recours (art. 75 LTF) dans une affaire de droit du bail à loyer dont la valeur litigieuse excède le seuil légal de 15'000 fr., eu égard notamment au loyer annuel de 16'200 fr. et à la période de protection de trois ans conférée par l'art. 271a al. 1 let. e CO (art. 74 al. 1 let. a LTF; cf. ATF 137 III 389 consid. 1.1).
Le recours a pour le surplus été exercé dans le délai légal (art. 100 al. 1 LTF en relation avec l'art. 45 al. 1 LTF) par la partie ayant succombé devant l'autorité précédente (art. 76 al. 1 LTF).
1.2 Le recours en matière civile est une voie de réforme (cf. art. 107 al. 2 LTF). Des conclusions purement cassatoires sont donc en principe irrecevables (ATF 133 II 409 consid. 1.4.2). Le simple renvoi de la cause peut exceptionnellement être demandé s'il apparaît que le Tribunal fédéral, en cas d'admission du recours, ne serait pas en mesure de statuer lui-même sur le fond (ATF 133 III 489 consid. 3.1; sous l'ancienne OJ, cf. notamment ATF 125 III 412 consid. 1b; 95 II 433 consid. 1). Par ailleurs, les conclusions doivent être interprétées selon le principe de la confiance, à la lumière de la motivation du recours (ATF 123 IV 125 consid. 1; 105 II 149 consid. 2a).
Formellement, le présent mémoire ne contient aucune conclusion réformatoire. Toutefois, le recourant invoque une violation de l'art. 271 al. 1 CO et se réfère à la jurisprudence sur le calcul de la valeur litigieuse en cas de contestation du congé. Il explique en outre que l'annulation de l'arrêt devrait lui permettre de continuer à louer les locaux litigieux. L'on comprend ainsi qu'il entend obtenir l'annulation du congé et la suppression de la mesure d'expulsion, de sorte que le recours est recevable sous cet angle également.
2. 2.1 Le recours en matière civile peut être formé pour violation du droit fédéral (art. 95 let. a LTF), notion qui inclut le droit constitutionnel. Le recourant ne peut se plaindre d'une violation du droit cantonal en tant que telle, mais peut plaider que l'application de ce droit est arbitraire au sens de l'art. 9 Cst. ou contraire à d'autres droits constitutionnels et contrevient ainsi au droit fédéral (ATF 134 III 379 consid. 1.2).
En principe, le Tribunal fédéral applique le droit d'office. Il n'examine toutefois la violation des droits fondamentaux et du droit cantonal que si le recourant a expressément soulevé le grief et exposé de manière claire et circonstanciée, si possible documentée, en quoi consiste la fausse application du droit invoqué (art. 106 LTF; ATF 134 II 244 consid. 2.2; 133 II 249 consid. 1.4.2). Des critiques de type purement appellatoire ne sont pas admissibles.
2.2 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits constatés dans la décision attaquée (art. 105 al. 1 LTF). Il peut rectifier ou compléter d'office les constatations établies de façon manifestement inexacte - c'est-à-dire arbitraire au sens de l'art. 9 Cst. - ou en violation du droit (art. 105 al. 2 LTF). Toutefois, il n'a pas à rechercher lui-même dans le dossier si ce dernier pourrait éventuellement contenir des indices d'une inexactitude de l'état de fait arrêté par les autorités cantonales. Il incombe donc à la partie recourante qui entend s'écarter des constatations de l'autorité précédente d'expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'art. 105 al. 2 LTF seraient réalisées (cf. art. 97 al. 1 LTF); à défaut, il ne peut être tenu compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (ATF 133 IV 286 consid. 6.2).
Au vu de ce qui précède, l'on ne saurait prendre en compte la version des faits présentée sous chiffre III du mémoire de recours en tant qu'elle s'écarte sans autres explications de l'état de fait retenu dans l'arrêt attaqué.
3. 3.1 Le recourant se plaint d'une violation du droit d'être entendu au sens de l'art. 29 al. 2 Cst. Il reproche respectivement à l'autorité de première instance de ne pas avoir statué sur sa requête tendant à l'audition de l'intimée personnellement, et à la Cour de justice d'avoir refusé cette mesure qu'il avait derechef sollicitée en appel. L'audition des organes de l'intimée était destinée à faire reconnaître le coût des travaux effectués et l'existence d'un accord oral d'indemnisation pour ces travaux.
3.2 De l'art. 29 al. 2 Cst. découlent notamment l'obligation pour l'autorité de motiver sa décision (ATF 134 I 83 consid. 4.1), et le droit pour le justiciable de faire administrer des preuves pour autant qu'elles aient été régulièrement offertes et portent sur des faits pertinents (ATF 135 I 279 consid. 2.3; 134 I 140 consid. 5.3). La garantie constitutionnelle ne s'oppose pas à ce que le juge, par une appréciation anticipée exempte d'arbitraire, renonce à administrer des preuves en considérant qu'elles sont inaptes à établir les faits allégués ou à modifier la conviction acquise sur la base des preuves déjà recueillies (ATF 134 I 140 consid. 5.3; 130 II 425 consid. 2.1). Si le juge a refusé une mesure probatoire en procédant à une appréciation anticipée des preuves, celle-ci ne peut être contestée qu'en invoquant l'arbitraire (arrêt 5A_600/2010 du 5 janvier 2011 consid. 4.3.2, in FamPra.ch 2011 422; cf. aussi ATF 131 I 153 consid. 3; 130 II 425 consid. 2.1).
Lorsqu'elle n'est pas particulièrement grave, la violation du droit d'être entendu peut être considérée comme réparée si le justiciable a la possibilité de s'exprimer devant une autorité de recours dotée du pouvoir de revoir librement les faits et le droit (ATF 137 I 195 consid. 2.3.2); aucun préjudice ne doit en résulter pour le justiciable (ATF 136 III 174 consid. 5.1.2 p. 177).
3.3 Selon le procès-verbal de l'audience qui s'est tenue le 20 juin 2011 devant le Tribunal des baux, le conseil du recourant a évoqué les pourparlers qui étaient en cours et a ajouté qu'il souhaitait la comparution personnelle des parties. Le conseil de l'intimée s'y est opposé en précisant que sa mandante lui avait indiqué ne pas vouloir remettre le bail en vigueur.
Le Tribunal des baux n'a pas traité cette requête dans son jugement.
Dans son appel, le locataire s'est plaint d'un déni de justice et a conclu à ce que soit ordonnée la comparution personnelle des parties, "incluant Y._ A.G. en personne".
La Cour de justice a fait les considérations suivantes: aucun grief ne pouvait être formulé en relation avec l'art. 430 de l'ancienne loi de procédure civile genevoise (ci-après: aLPC), dès lors que cette disposition prévoyait tout au plus la faculté, et non l'obligation, d'ordonner la comparution personnelle des parties. Par ailleurs, les premiers juges pouvaient considérer, sans enfreindre le droit d'être entendu, que l'audition d'un organe de la bailleresse n'apporterait pas au dossier des éléments probants nouveaux susceptibles de remettre en cause les faits démontrés par les allégués concordants des parties ou les pièces produites. Du reste, dans son appel où il renouvelait sa requête, le locataire ne s'était pas montré plus précis sur l'objet de cette mesure probatoire. En conséquence, la demande devait à nouveau être rejetée.
3.4 Contrairement à ce que plaide le recourant, le Tribunal des baux n'a pas refusé de statuer sur sa requête de comparution personnelle, mais l'a rejetée sans explication. Il n'est pas nécessaire d'examiner plus avant si le tribunal a ainsi enfreint son devoir de motivation, ou s'il pouvait considérer que les motifs ressortaient suffisamment des circonstances, eu égard à la réponse donnée par le conseil de l'intimée. L'éventuel défaut de motivation a de toute façon été couvert par la Cour de justice sans qu'il en résulte de préjudice pour le recourant, qui faisait appel pour d'autres motifs également.
Quant au refus d'instruire opposé par la Cour de justice, il se fonde sur une appréciation anticipée des preuves dont le recourant ne s'attache pas à démontrer en quoi elle serait arbitraire, ce qui scelle le sort du grief. Pour le surplus, le recourant évoque l'art. 430 aLPC sans se plaindre d'arbitraire dans l'application du droit cantonal, de sorte qu'il n'y a pas non plus à examiner cette question plus avant.
4. 4.1 Le recourant critique les motifs invoqués par la Cour de justice pour dénier l'existence d'un congé abusif, en reprochant pêle-mêle à cette autorité d'avoir établi les faits de façon inexacte et d'avoir enfreint l'art. 271 al. 1 CO. En bref, l'intimée aurait profité de la situation financière délicate du recourant pour le contraindre à négocier un nouveau contrat avec une augmentation de loyer de 72 % tout en renonçant à l'allocation d'une indemnité pour les travaux réalisés.
4.2 Le recourant n'explique pas en quoi les constatations de fait concernant les circonstances du congé seraient entachées d'arbitraire ou auraient été établies de façon contraire au droit. Il n'y a ainsi pas à traiter les remarques générales qu'il fait en particulier sur les travaux effectués et sur l'escroquerie dont il aurait été victime.
4.3 L'art. 257d CO autorise le bailleur à résilier le contrat de manière anticipée lorsque le locataire est en demeure de payer le loyer. Il est admis que le congé prononcé conformément à cette disposition peut, à titre très exceptionnel, contrevenir aux règles de la bonne foi et justifier une annulation fondée sur l'art. 271 al. 1 CO (ATF 120 II 31 consid. 4a p. 33). Une telle hypothèse ne doit être admise que très restrictivement, afin de ne pas mettre en question le droit du bailleur à recevoir le loyer à l'échéance. De telles circonstances spéciales sont notamment réalisées lorsque le montant impayé est insignifiant, ou lorsque le bailleur éprouve un doute sur le montant de sa créance et invite le locataire à vérifier le montant réclamé, tout en le menaçant de résiliation avant d'avoir acquis la certitude que la somme demandée était justifiée (ATF 120 II 31 consid. 4b). Le congé peut également être abusif si l'arriéré a été réglé très peu de temps après l'expiration du délai, alors que le locataire s'était jusque-là toujours acquitté à temps du loyer, ou encore si le bailleur résilie le contrat longtemps après l'expiration de ce délai (DAVID LACHAT, Le bail à loyer, 2008, p. 672). Sur le principe, une résiliation fondée sur une réelle demeure du locataire ne contrevient pas à la bonne foi; demeure réservée l'hypothèse où le bailleur était mû par un motif réel autre que le défaut de paiement, motif qui constitue un abus de droit (BURKHALTER/MARTINEZ-FAVRE, Le droit suisse du bail à loyer, Commentaire SVIT, 2011, n° 43 ad art. 257d CO).
De manière générale, l'art. 271 al. 1 CO protège le locataire notamment en cas de disproportion grossière des intérêts en présence, lorsque le bailleur use de son droit de manière inutilement rigoureuse ou lorsqu'il adopte une attitude contradictoire. Le congé donné par le bailleur en vue d'obtenir d'un nouveau locataire un loyer plus élevé, mais non abusif, ne saurait, en règle générale, constituer un abus de droit - hormis le cas d'une éventuelle attitude contradictoire de l'intéressé (ATF 136 III 190 consid. 2 p. 192; 120 II 105 consid. 3b).
4.4 En l'occurrence, le recourant a donné lieu à une résiliation anticipée en s'abstenant de payer un arriéré de loyer de quatre mois sans fournir d'explications, puis a persisté à ne rien verser tout en occupant les locaux et a laissé s'écouler encore quinze jours après le dépôt d'une requête en évacuation. L'on ne saurait ignorer l'intérêt du recourant au maintien du contrat, compte tenu des travaux effectués. Toutefois, cet élément ne suffisait pas à rendre le congé abusif et à reléguer à l'arrière-plan l'intérêt de l'intimée à recevoir le loyer à l'échéance.
Il est constant que le recourant a effectué des travaux d'aménagement d'une certaine ampleur, sans que la preuve d'un coût de 400'000 fr. soit apportée. Il découle par ailleurs clairement des art. 5 et 7 du contrat de bail que le locataire n'avait pas droit à une indemnité pour les travaux à plus-value même effectués avec l'accord du bailleur. La Cour de justice a relevé à juste titre que ce régime contractuel spécial ne contrevenait pas à l'art. 260a al. 3 CO, dont la jurisprudence a reconnu le caractère dispositif (ATF 124 III 149 consid. 5).
S'agissant de la durée d'amortissement des travaux, on peut donner acte au recourant que lors de la reprise du bail le 26 septembre 2003, celui-ci était déjà tacitement reconduit jusqu'au 31 juillet 2009; l'échéance contractuelle était en effet fixée au 31 juillet 2004, mais assortie d'un délai de congé d'un an qui avait déjà expiré. La cour d'appel n'a toutefois pas méconnu cet aspect, puisqu'elle a souligné que le bail expirait l'année suivant la reprise du contrat et que le recourant ne pouvait compter que sur un renouvellement de cinq ans, de sorte que l'amortissement devait intervenir avant 2010, soit l'année où le congé a été donné avec effet immédiat.
En bref, le recourant a effectué des travaux d'une certaine ampleur, tout en sachant que la prochaine échéance contractuelle était dans cinq ans et dix mois. Alors que le contrat avait été prolongé, il a provoqué une résiliation anticipée en s'abstenant pendant plusieurs mois et sans explication de payer le loyer dû. En exerçant son droit à la résiliation dans de telles circonstances, l'intimée n'a en aucun cas agi de façon inutilement rigoureuse.
4.5 Le recourant objecte encore que l'intimée a profité de sa situation financière délicate pour lui imposer, à lui et à la nouvelle entité dont il était l'un des ayants droit économiques, une augmentation de loyer de 72 % en lieu et place d'une simple indexation de loyer.
L'arrêt retient que dans la perspective de relouer l'arcade, la bailleresse s'est intéressée à la proposition que lui avait soumise le locataire congédié; celui-ci souhaitait obtenir un nouveau bail pour la société qu'il devait fonder avec un partenaire. C'est dans un tel contexte que la bailleresse a demandé un loyer nettement majoré. Il n'apparaît donc pas que la bailleresse aurait résilié le bail uniquement pour pouvoir ensuite proposer au locataire de le reconduire moyennant une augmentation de loyer. L'état de fait, qui lie la Cour de céans, exclut de retenir un congé-pression (art. 271a al. 1 let. b CO; sous l'ancien droit, ATF 115 II 83 consid. 4; 115 II 484 consid. 2c). Tout au plus la bailleresse a-t-elle montré qu'elle entendait désormais obtenir un loyer supérieur, dont le caractère abusif n'a toutefois pas été allégué, ni a fortiori établi. Le grief se révèle infondé.
4.6 Le recourant se plaint encore de violation de l'interdiction de l'arbitraire (art. 9 Cst.). Le moyen est toutefois lié aux autres griefs déjà traités et n'a pas de portée propre.
5. En définitive, le recours doit être rejeté dans la mesure où il est recevable. En conséquence, le recourant assumera les frais judiciaires et versera à l'intimée une indemnité à titre de dépens (art. 66 al. 1 et art. 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Un émolument judiciaire de 2'000 fr. est mis à la charge du recourant.
3. Le recourant versera à l'intimée une indemnité de 2'500 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux parties et à la Chambre des baux et loyers de la Cour de justice du canton de Genève.
Lausanne, le 11 juin 2012
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
La Greffière: Monti