Faits:
A. Depuis le 1er octobre 1990, X._ (la bailleresse) loue un appartement en ville de Genève à H.Y._ et F.Y._ (les locataires), pour un loyer annuel de 8'412 fr. Le 12 juin 2008, elle leur a notifié un avis de majoration du loyer annuel à 13'200 francs.
B. Le 26 juin 2008, les locataires ont saisi la Commission de conciliation en matière de baux et loyers du canton de Genève d'une requête en opposition à hausse de loyer et d'une demande reconventionnelle de baisse de loyer. La cause a été déclarée non conciliée en date du 2 octobre 2008.
Le 10 octobre 2008, les locataires ont introduit leur demande de baisse de loyer par-devant le Tribunal des baux et loyers du canton de Genève. Celui-ci a fixé à la bailleresse un délai au 6 janvier 2009 pour répondre. Par courrier du 4 décembre 2008, les locataires ont déclaré retirer leur demande de baisse de loyer - au motif que la bailleresse n'avait pas introduit de demande en validation de hausse de loyer; le même jour, le Tribunal a envoyé aux parties un avis de retrait les informant que la cause était rayée du rôle.
Par acte déposé au greffe du Tribunal le 5 décembre 2008, la bailleresse a répondu à la demande des locataires, concluant à son rejet et à la confirmation de l'augmentation selon avis de majoration de loyer du 12 juin 2008. Le 15 décembre 2008, le Tribunal a ordonné la réinscription de la cause au rôle et fixé une audience de plaidoiries au 27 janvier 2009.
Par jugement du 26 février 2009, le Tribunal a débouté la bailleresse de toutes ses conclusions, pris acte du retrait par les locataires de leur requête en opposition à hausse de loyer et demande reconventionnelle de baisse de loyer, dit que la cause serait rayée du rôle une fois le délai d'appel expiré et non utilisé, enfin débouté les parties de toutes autres conclusions. Pour ce qui concerne la demande de la bailleresse, il a constaté qu'elle n'avait pas introduit de demande de validation de hausse de loyer dans les trente jours ayant suivi l'échec de la tentative de conciliation et qu'en n'ayant pas saisi à temps le juge, elle avait renoncé à la hausse de loyer.
Saisie par la bailleresse - qui soutenait en particulier qu'il appartenait aux locataires et non à elle de s'adresser au juge dans les trente jours suivant l'échec de la tentative de conciliation - et statuant par arrêt du 5 octobre 2009, la Chambre d'appel en matière de baux et loyers du canton de Genève a confirmé le jugement du 26 février 2009.
C. La bailleresse (la recourante) interjette un recours en matière civile au Tribunal fédéral, concluant principalement à la confirmation de l'augmentation de loyer selon avis de majoration de loyer du 12 juin 2008. Les locataires (les intimés) proposent le rejet du recours.
Considérant en droit:
1. La valeur litigieuse s'élève à (13'200 fr. - 8'412 fr. x 20 =) 95'760 fr. (cf. art. 51 al. 4 LTF; ATF 121 III 397 consid. 1), de sorte que la voie du recours en matière civile est ouverte (art. 74 al. 1 let. a LTF).
2. La recourante soutient que ce n'était pas à elle de saisir le juge de la demande de hausse de loyer dans le délai de trente jours courant dès l'échec de la tentative de conciliation.
2.1 A teneur de l'art. 274f al. 1 CO, si l'autorité de conciliation a constaté l'échec de la tentative de conciliation, la partie qui persiste dans sa demande doit saisir le juge dans les trente jours. Par demande, il faut entendre la demande au fond ("Begehren" et "pretesa" dans les versions allemande et italienne du texte). La disposition correspond à l'art. 28 al. 2 de l'ancien arrêté fédéral du 30 juin 1972 - actuellement abrogé - instituant des mesures contre les abus dans le secteur locatif (AMSL; RO 1972 1531; cf. ATF 122 III 316 consid. 2 p. 317).
En matière de hausse de loyer, l'autorité de conciliation est certes saisie par le locataire (cf. art. 270b al. 1 CO), mais la prétention litigieuse émane du bailleur. Il appartient donc à celui-ci d'agir dans les trente jours s'il persiste dans sa prétention à augmenter le loyer. A ce défaut, il est réputé y avoir renoncé. Il garde toutefois la possibilité de notifier une nouvelle hausse pour l'échéance contractuelle suivante et peut se prévaloir des mêmes motifs (cf. ATF 124 III 245 consid. 2 et 3).
2.2 Lorsque les deux parties ont fait valoir des prétentions devant l'autorité de conciliation, se pose la question de savoir si chacune doit agir dans le délai de trente jours pour préserver ses propres prétentions.
Dans les cas où, faute pour les parties d'avoir trouvé un accord, l'autorité de conciliation rend une décision (cf. art. 274e al. 2 in initio et art. 274f al. 1 in initio CO), il suffit que l'une des parties à la procédure de conciliation saisisse le juge dans les délais pour que la décision soit entièrement mise à néant. Il serait en effet contraire à l'esprit d'une conciliation de désavantager l'autre partie dans la suite de la procédure judiciaire pour le motif qu'elle s'est montrée plus conciliante en étant prête à accepter la décision de l'autorité de conciliation bien que celle-ci ne la satisfasse pas nécessairement. Cette partie garde en conséquence la possibilité de soumettre au juge ses propres conclusions, dans le cadre de la réponse à la demande ou en formant une demande reconventionnelle, pour autant que le droit de procédure applicable lui offre une telle possibilité (cf. ATF 135 III 253 consid. 2, spéc. consid. 2.3 p. 257 et consid. 2.4 p. 258).
Dans les cas où l'autorité de conciliation n'est pas habilitée à rendre une décision et ne peut, faute de conciliation, que constater l'échec de la tentative de conciliation (art. 274e al. 2 in fine et art. 274f al. 1 in fine CO), les choses se présentent différemment. La question de ne pas désavantager la partie qui fait preuve d'esprit de conciliation en acceptant une décision de l'autorité de conciliation ne se pose pas. Les parties ne sont pas mises devant le choix de renoncer à poursuivre leurs prétentions dans l'espoir que la partie adverse en fasse de même en acceptant, elle aussi, la solution de compromis proposée par l'autorité de conciliation. A défaut d'une telle proposition, l'alternative pour chaque partie est simplement de procéder dans le délai ou de renoncer. Il n'y a dès lors pas motif de lier leurs prétentions les unes aux autres et de permettre à la partie, qui a dans un premier temps abandonné sa prétention, de revenir sur cette renonciation simplement parce que l'autre partie n'a pas abandonné la sienne. Cela se justifie d'autant moins que par rapport à l'acceptation de la décision de l'autorité de conciliation qui entre en force, la portée d'une renonciation à aborder le juge pour une hausse de loyer est moindre; dans ce cas de figure, une nouvelle hausse fondée sur les mêmes motifs peut en effet être notifiée pour le terme suivant déjà.
2.3 En l'occurrence, la Commission de conciliation a été saisie d'une demande de hausse et d'une demande de baisse du loyer. La cause a été déclarée non conciliée le 2 octobre 2008 et ce n'est que le 5 décembre 2008 que la recourante a fait valoir sa prétention de hausse de loyer devant le Tribunal des baux et loyers. A ce moment-là, le délai de trente jours dès la communication de l'échec de la tentative de conciliation était largement échu. La recourante est ainsi réputée avoir renoncé à la hausse de loyer notifiée le 12 juin 2008.
3. La recourante conteste la radiation du rôle de la demande des intimés. Remettant en cause certaines dates retenues par la Chambre d'appel, elle soutient n'avoir eu connaissance du retrait de la demande de ses adverses parties qu'après le dépôt de sa réponse. Elle en déduit qu'elle était en droit de s'opposer au retrait de la demande des intimés.
Le maintien au rôle de la demande des intimés est sans pertinence pour la recevabilité de la conclusion de la recourante visant à ce que la hausse de loyer soit admise. En effet, cette conclusion était de toute façon irrecevable pour cause de tardivité. La recourante n'a donc pas d'intérêt à contester l'arrêt sur un point qui lui est favorable.
Au demeurant, selon la jurisprudence cantonale publiée, le désistement d'action en procédure civile genevoise est parfait par la seule manifestation de volonté de son auteur, et l'acceptation du défendeur n'est requise que si celui-ci a un intérêt à la poursuite du procès, par exemple s'il a valablement formé une demande reconventionnelle avant la déclaration de désistement du demandeur (cf. SJ 1987 p. 460). En l'espèce, il est incontesté que les intimés ont retiré leur demande le 4 décembre 2008 et que la recourante a fait valoir sa conclusion reconventionnelle en hausse de loyer par mémoire du 5 décembre 2008 seulement, soit après la déclaration de désistement. Il en découle que la recourante ne pouvait pas s'opposer à la radiation de la demande des intimés du rôle; à tout le moins en est-il ainsi selon la jurisprudence cantonale précitée, dont la recourante ne démontre pas le caractère arbitraire (cf. ATF 133 III 462 consid. 2.3). Cela scelle le sort du grief.
4. Compte tenu de l'issue du litige, les frais judiciaires et dépens des intimés, créanciers solidaires, sont mis à la charge de la recourante, qui succombe (art. 66 al. 1 ainsi qu'art. 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 4'000 fr., sont mis à la charge de la recourante.
3. Une indemnité de 5'000 fr., à payer aux intimés, créanciers solidaires, à titre de dépens, est mise à la charge de la recourante.
4. Le présent arrêt est communiqué aux mandataires des parties et à la Chambre d'appel en matière de baux et loyers du canton de Genève.
Lausanne, le 13 janvier 2010
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: La Greffière:
Klett Cornaz