Faits : A. A.a. L._ occupe depuis 1974 une arcade de 23 mètres carrés au rez-de-chaussée d'un immeuble situé en ville de Genève. Dans le contrat de bail que cette locataire a signé le 28 août 1985, les bailleurs sont désignés comme les "consorts X._", représentés par "MM. R._ SA". Depuis 1991, le bail est renouvelable tacitement d'année en année, sauf préavis de résiliation signifié six mois à l'avance pour l'échéance du 31 janvier. Le loyer a été fixé en dernier lieu à 5'160 fr. par an, charges comprises. De façon récurrente depuis 2005 en tout cas, la locataire a accusé du retard dans le paiement de son loyer. Entre 2005 et 2011, une vingtaine de rappels ou de mises en demeure lui ont été adressés. A.b. Par avis officiel du 7 décembre 2011, le bail a été résilié pour défaut de paiement. La locataire a contesté le congé extraordinaire dans le délai légal de 30 jours. Par courrier du 13 février 2012, la régie chargée de gérer l'immeuble, soit R._ SA, a informé la locataire que son loyer était désormais à jour au 31 mai 2012 mais que son bail demeurait résilié. Elle a déclaré suspendre "la procédure d'évacuation" moyennant paiement régulier des indemnités pour occupation illicite. A l'audience de conciliation qui s'est tenue le 5 juillet 2012, la cause a été déclarée non conciliée et une autorisation de procéder a été remise à la locataire. Le même jour, celle-ci a interpellé la régie par courrier électronique en l'invitant à revoir sa position. La régie a répondu à la locataire en ces termes par courrier du 30 août 2012: "Nous avons pris en considération votre requête et nous vous informons que nous avons décidé par gain de paix de remettre en vigueur votre bail et ses avenants, préexistants avant la résiliation pour l'échéance du 31 janvier 2012. Il va sans dire que nous comptons ne plus avoir à vous adresser une quelconque lettre de rappel et que vous respecterez dorénavant les conditions générales applicables à votre bail qui prévoient le paiement du loyer par mois d'avance. Pour notre part, nous tolérons ce paiement au 10 du mois en cours dernier délai. Vos versements seront désormais comptabilisés à titre de loyers et charges. Votre compte est actuellement à jour au 31.12.2012. Cette lettre valant avenant à votre bail, nous vous la faisons parvenir par lettre recommandée et par pli simple." La locataire n'a pas porté l'action devant le juge du fond. A.c. Par avis du 29 novembre 2013, les "consorts X._", représentés par la régie immobilière précitée, ont résilié le bail de la locataire pour le 31 janvier 2015, sans indiquer de motif. En annexe figurait la liste des nouveaux propriétaires, soit B1._, B2._, B3._, B4._, B5._, B6._, B7._ et B8._, le nom de X._ étant mentionné en tant qu'usufruitier. B. B.a. Le 29 décembre 2013, la locataire a déposé une requête en contestation du congé devant la commission de conciliation, au moyen du formulaire préimprimé fourni par cette autorité. Sous rubrique "cité", la locataire a indiqué "R._ SA". B8._ et un représentant de la régie immobilière ont comparu à l'audience de conciliation du 3 mars 2014. La locataire a obtenu une autorisation de procéder désignant comme défendeurs les "Consorts X._ c/o R._ SA". La locataire a alors déposé une demande le 2 avril 2014 devant le Tribunal des baux et loyers du canton de Genève. Elle concluait à l'annulation du congé "notifié par la régie R._ SA, représentant les consorts X._". Dans leur réponse, les "consorts X._, subsidiairement B1._, B2._ et B3._, B4._, B5._, B6._, B7._ et B8._" ont conclu à l'irrecevabilité de la demande, respectivement à son rejet sur le fond. De leur point de vue, la demande était irrecevable à double titre: d'une part, parce qu'elle désignait à tort la régie immobilière qui n'avait pas la qualité pour défendre; d'autre part, parce qu'elle omettait de mentionner séparément les copropriétaires de l'immeuble. Le congé était dû au fait que la locataire ne respectait pas l'affectation prévue par le bail et que les bailleurs souhaitaient un commerce ouvert au public avec une vitrine plutôt qu'un bureau. B.b. Par jugement du 14 novembre 2014, le Tribunal des baux a rejeté l'incident d'irrecevabilité et "modifi[é] les qualités de la partie bailleresse, en ce sens que B1._, B2._ et B3._, B4._, B5._, B6._, B7._ et B8._ sont défendeurs à la présente procédure". Sur le fond, le Tribunal a déclaré le congé valable et octroyé à la locataire une unique prolongation de deux ans, soit jusqu'au 31 janvier 2017. B.c. La locataire a déféré cette décision à la Cour de justice du canton de Genève (Chambre des baux et loyers), suite à quoi les bailleurs ont déposé un appel joint. Par arrêt du 23 novembre 2015, cette autorité a "modifi[é] la qualité de la partie intimée, en ce sens que X._ est également intimé". Quant au fond, la Cour a annulé le congé notifié pour le 31 janvier 2015. Elle a jugé que le congé avait été donné pendant la période de protection conférée par l'art. 271a al. 1 let. e CO, de sorte qu'il était annulable pour ce motif déjà. Par surabondance, il était aussi annulable en vertu de la clause générale de l'art. 271 al. 1 CO. Les bailleurs justifiaient le congé par le souhait d'avoir un commerce ouvert sur l'extérieur plutôt qu'une arcade vide avec une vitrine borgne. Ils admettaient cependant n'avoir jamais adressé de reproches en ce sens à la locataire avant la notification du congé. Pour le surplus, le dossier ne montrait pas qu'il y aurait eu de nouveaux retards dans le paiement du loyer depuis la remise en vigueur du bail en 2012. Dans ces circonstances, le congé était contraire aux règles de la bonne foi. C. B1._, B2._, B3._, B4._, B5._, B6._, B7._ et B8._ ont interjeté un recours en matière civile. A titre principal, ils invitent le Tribunal fédéral à constater l'invalidité de l'autorisation de procéder délivrée le 3 mars 2014 et à déclarer irrecevable l'action intentée par la locataire. Subsidiairement, ils requièrent le rejet de l'action après constatation de ce qu'ils n'ont pas la légitimation passive et qu'il n'y a pas de litispendance à leur égard. Plus subsidiairement, les recourants demandent que toute prolongation de bail soit refusée, ou plus subsidiairement encore, qu'une prolongation unique soit octroyée jusqu'au 31 janvier 2017. Les recourants précisent que X._ est décédé le 29 novembre 2015 en laissant pour unique héritière B7._, d'ores et déjà partie à la procédure. La chancellerie de la cour de céans a imparti à la locataire un délai de réponse au 15 février 2016. Celle-ci a déposé une écriture le 7 mars 2016. Les recourants ont demandé d'écarter cet acte tardif de la procédure. L'autorité précédente s'est référée à son arrêt.