Faits:
A. En 1990, F.X._ et feu son époux H.X._ ont acheté, pour le prix de 890'000 fr. payé entièrement en fonds propres, des actions de la Société Immobilière " A._ ", leur conférant l'usage d'un appartement au 6ème étage de l'immeuble sis ... à Genève. En 2002, F.X._ est devenue propriétaire de l'appartement sous la forme d'une propriété par étages, la société immobilière ayant été liquidée.
Alors qu'elle s'apprêtait à entrer dans un EMS, F.X._ a décidé de rénover l'appartement - ce qui lui a coûté 140'533 fr. pour des travaux exécutés en 2008 et 2009 - en vue de le louer.
Les premiers locataires ont été Y._ et Z._. Ils ont négocié le loyer parce qu'ils estimaient que le montant demandé était trop élevé. Le contrat a été signé le 1er juin 2009. Le loyer, indexé, a été fixé à 4'800 fr. par mois, soit 57'600 fr. par année, sans les frais de chauffage, d'eau chaude et de téléréseau. Il était indiqué, sur la formule officielle, qu'il était conforme aux loyers usuels. La durée du bail a été fixée à cinq ans, soit du 1er juin 2009 au 31 mai 2014, sans clause de reconduction. Une garantie de loyer de 14'400 fr. devait être fournie à la conclusion du bail.
B. Par requête du 25 juin 2009, les locataires ont contesté le loyer initial auprès de la Commission de conciliation en matière de baux et loyers du canton de Genève. Ils ont soutenu que le loyer était, d'une part, abusif et, d'autre part, excessif par rapport à celui d'un logement comparable. Non conciliée, la cause, enregistrée sous le no 1, a été portée devant le Tribunal des baux et loyers du même canton.
Par lettre du 26 mars 2010, le mandataire des locataires a demandé au département compétent si les travaux de rénovation effectués par la propriétaire avaient fait l'objet d'une autorisation. Cette démarche a entraîné l'ouverture d'une procédure administrative. Estimant qu'elle avait été victime d'une délation, la bailleresse, par des avis séparés du 18 mai 2010 adressés aux locataires, a résilié le contrat de bail pour le 31 août 2010 en invoquant l'art. 266g al. 1 CO (congé extraordinaire pour de justes motifs).
Par requête du 17 juin 2010 adressée à la Commission de conciliation en matière de baux et loyers, les locataires ont demandé la constatation de l'inefficacité de la résiliation, subsidiairement son annulation. Non conciliée, la cause, enregistrée sous le n° 2, a été portée devant le Tribunal des baux et loyers.
Par requête du 5 octobre 2010 adressée à la Commission de conciliation en matière de baux et loyers, la bailleresse a demandé l'évacuation immédiate des locataires. Non conciliée, cette cause, enregistrée sous le n° 3, a été portée devant le Tribunal des baux et loyers.
Les trois causes (1, 2 et 3) ont été jointes.
Par jugement du 15 novembre 2011, le Tribunal des baux et loyers a fixé à 35'040 fr., charges non comprises, le loyer annuel de l'appartement dès le 1er juin 2009, réduit la garantie qui devait être fournie à trois mois du loyer ainsi fixé, ordonné la restitution du trop-perçu, annulé le congé donné le 18 mai 2010 et débouté les parties de toutes autres conclusions.
La bailleresse a appelé de ce jugement auprès de la Chambre des baux et loyers de la Cour de justice genevoise, concluant pour l'essentiel à la validité du loyer initial, à la validité du congé extraordinaire et à l'évacuation des locataires.
Ces derniers ont conclu à la confirmation du jugement attaqué, demandant toutefois principalement que le congé soit déclaré inefficace et seulement subsidiairement qu'il soit annulé.
Par arrêt du 8 octobre 2012, la Chambre des baux et loyers a confirmé le jugement attaqué, sauf qu'il a prononcé l'inefficacité du congé, au lieu de son annulation.
C. F.X._ exerce un recours en matière civile au Tribunal fédéral. Invoquant l'arbitraire dans l'établissement des faits ainsi qu'une violation des art. 2 CC, 8 CC, 266g CO et 270 CO, elle conclut à la réforme du jugement attaqué, à la validité du loyer initial convenu (57'600 fr. par an), à la validité du congé donné le 18 mai 2010, à l'évacuation des locataires, à leur condamnation à payer solidairement 4'800 fr. par mois, plus charges, à titre d'indemnité pour occupation illicite dès l'extinction du bail et tant qu'ils occuperont les lieux; subsidiairement, elle demande le renvoi de la cause à l'une des deux juridictions cantonales. Sa requête d'effet suspensif a été admise par ordonnance présidentielle du 15 novembre 2012.
Les intimés proposent l'irrecevabilité, subsidiairement le rejet du recours.
La recourante a répliqué.
Considérant en droit:
1. 1.1 Interjeté par une partie qui a succombé dans ses conclusions touchant ses droits personnels et qui a donc qualité pour recourir (art. 76 al. 1 LTF), dirigé contre un arrêt final (art. 90 LTF) rendu en matière civile (art. 72 al. 1 LTF) par un tribunal supérieur statuant sur recours en dernière instance cantonale (art. 75 LTF) dans une affaire pécuniaire dont la valeur litigieuse atteint le seuil de 15'000 fr. requis en matière de droit du bail (art. 74 al. 1 let. a LTF), le recours est recevable, puisqu'il a été déposé dans le délai (art. 100 al. 1 LTF) et la forme (art. 42 LTF) prévus par la loi .
1.2 Le recours peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Il peut donc être formé pour violation d'un droit constitutionnel (ATF 136 I 241 consid. 2.1 p. 247; 136 II 304 consid. 2.4 p. 313).
Le Tribunal fédéral applique d'office le droit dont il peut contrôler le respect (art. 106 al. 1 LTF). Il n'est pas limité par les arguments soulevés dans le recours, ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été articulés ou, à l'inverse, rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (ATF 138 II 331 consid. 1.3 p. 336; 137 II 313 consid. 4 p. 317 s.). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (art. 108 al. 1 let. b LTF), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent lorsque celles-ci ne sont plus discutées devant lui (ATF 137 III 580 consid. 1.3 p. 584; 135 II 384 consid. 2.2.1 p. 389). Par exception à la règle selon laquelle il applique le droit d'office, le Tribunal fédéral ne peut entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal que si le grief a été invoqué et motivé de manière précise par la partie recourante (art. 106 al. 2 LTF).
1.3 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si les faits ont été établis de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire (ATF 137 I 58 consid. 4.1.2 p. 62; 137 II 353 consid. 5.1 p. 356) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF).
La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'art. 105 al. 2 LTF seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (ATF 137 II 353 consid. 5.1 p. 356; 136 I 184 consid. 1.2 p. 187). La partie qui invoque l'arbitraire dans l'appréciation des preuves doit motiver son grief d'une manière qui réponde aux exigences de l'art. 106 al. 2 LTF (ATF 137 I 58 consid. 4.1.2 p. 62). Une rectification de l'état de fait ne peut être demandée que si elle est de nature à influer sur le sort de la cause (art. 97 al. 1 LTF). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (art. 99 LTF).
En l'espèce, la recourante fait grief à la cour cantonale d'avoir retenu qu'elle aurait allégué le fait que la pénurie de logements à Genève est insuffisante pour contester le loyer initial. Dès lors qu'elle affirme ne pas avoir nié ce fait, cette question est sans importance pour l'issue du litige (cf. art. 270 al. 1 let. a CO), de sorte qu'il n'y a pas lieu de procéder à une rectification (art. 97 al. 1 LTF). Sur d'autres points, la recourante semble se plaindre plutôt de l'appréciation juridique des faits, puisqu'elle énonce des éléments factuels qui figurent bel et bien dans l'arrêt attaqué. Elle voudrait apparemment ajouter d'autres faits qu'elle extrait du dossier et qu'elle estime favorables à sa cause. Mais cette manière de procéder ne suffit toutefois pas à établir que l'état de fait cantonal aurait été arrêté arbitrairement. Quant aux faits et moyens de preuve qui n'ont pas été invoqués en temps utiles selon les règles de la procédure, ils ne sauraient être présentés pour la première fois devant le Tribunal fédéral. L'art. 99 al. 1 LTF exclut par ailleurs la prise en compte de faits ou de moyens de preuve postérieurs à l'arrêt attaqué, tels que l'arrêt de la Chambre administrative du 11 décembre 2012 qui a été produit. Il convient donc de s'en tenir à l'état de fait contenu dans la décision attaquée, la recourante n'ayant pas démontré, d'une manière répondant aux exigences de l'art. 106 al. 2 LTF, que l'état de fait aurait été dressé de manière arbitraire.
1.4 Le Tribunal fédéral ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF). Toute conclusion nouvelle est irrecevable (art. 99 al. 2 LTF).
2. 2.1 Des constatations cantonales il résulte à l'évidence, en procédant à une qualification juridique, que les parties ont conclu un contrat de bail à loyer au sens de l'art. 253 CO.
Les locataires ont contesté le loyer initial, c'est-à-dire le loyer convenu dans le contrat (cf. art. 270 CO).
Il convient de distinguer soigneusement les conditions posées par l'art. 270 al. 1 CO qui permettent à un locataire de contester le loyer initial et les motifs de fond prévus par les art. 269 et 269a CO, lesquels, dans l'hypothèse où la contestation du loyer initial est possible, déterminent si le loyer convenu est ou non abusif (arrêt 4A_491/2012 du 6 décembre 2012, consid. 3.1.2 destiné à la publication; ATF 136 III 82 consid. 3.3 p. 88).
2.2 Il faut donc examiner en premier lieu, à la lumière de l'art. 270 al. 1 CO, si les intimés pouvaient contester le loyer initial.
Selon cette disposition, le locataire peut contester le loyer initial dans trois hypothèses: s'il a été contraint de conclure le bail par nécessité personnelle ou familiale (art. 270 al. 1 let. a, première hypothèse, CO), s'il a été contraint de conclure en raison de la situation sur le marché local du logement et des locaux commerciaux (art. 270 al. 1 let. a, seconde hypothèse, CO) ou si le bailleur a sensiblement augmenté le loyer pour la même chose par rapport au précédent loyer (art. 270 al. 1 let. b CO).
Ces trois conditions sont alternatives, si bien qu'il suffit que l'une d'entre elles soit réalisées pour qu'il faille entrer en matière sur la contestation du loyer initial (ATF 136 III 82 consid. 2 p. 84). Il appartient au locataire de prouver que l'une de ces trois conditions est réalisée (arrêts 4A_250/2012 du 28 août 2012 consid. 2.2; 4C.169/2002 du 16 octobre 2002 consid. 2.1).
La contrainte, dont parle l'art. 270 al. 1 let. a CO, suppose que le locataire ait de bonnes raisons de changer de logement et que l'on ne puisse attendre de lui qu'il renonce à une occasion qui se présente, parce que les motifs de nécessité personnelle ou familiale ou la situation sur le marché local du logement sont tels qu'une renonciation serait déraisonnable (ATF 136 III 82 consid. 2 p. 84 s. et les références citées).
S'agissant de la situation sur le marché local à prendre en considération pour apprécier le caractère déraisonnable d'une renonciation, le Tribunal fédéral a jugé que la situation pouvait être qualifiée de difficile dans les cantons où la pénurie - comme c'est le cas à Genève - est constatée, sur la base d'une étude statistique sérieuse, par le gouvernement cantonal (ATF 136 III 82 consid. 2 p. 85). Lorsqu'une telle constatation officielle existe, le locataire est dispensé d'apporter des preuves pour démontrer l'état de pénurie (arrêt 4A_250/2012 déjà cité, consid. 2.2).
En l'espèce, il n'est pas contesté que l'on se trouve dans un cas où le droit cantonal rend obligatoire l'usage de la formule officielle pour la conclusion d'un nouveau bail. Or, en vertu de l'art. 270 al. 2 CO, une telle exigence suppose l'existence d'une situation de pénurie. On peut donc considérer qu'il s'agit d'un fait notoire, qu'il n'est pas nécessaire d'alléguer et de prouver (ATF 135 III 88 consid. 4.1 p. 89). En raison de cet état de pénurie, il aurait été déraisonnable que les intimés renoncent à une occasion qui se présentait, alors même que le loyer leur paraissait trop élevé. En admettant dans ces circonstances que l'une des conditions posées par l'art. 270 al. 1 CO était réalisée et que les intimés pouvaient donc contester le loyer initial, la cour cantonale n'a pas violé le droit fédéral.
2.3 La recourante soutient que les intimés, en contestant le loyer initial, commettent un abus de droit au sens de l'art. 2 CC, parce qu'ils adoptent une attitude contradictoire.
Il est vrai que l'on peut voir une contradiction dans le fait d'accepter un loyer en signant le contrat, puis de le contester devant la commission de conciliation. Le législateur a cependant admis cette manière de procéder en adoptant l'art. 270 al. 1 CO, de sorte que l'on ne peut y voir un comportement que le droit ne protège pas.
Autre circonstance pourrait rendre abusive l'attitude des intimés. Il n'y a en effet rien de contradictoire dans le fait de négocier un loyer que l'on trouve trop cher et ensuite de le contester parce qu'on le trouve toujours trop élevé.
2.4 Dès lors qu'il faut entrer en matière sur la contestation du loyer initial, la détermination du loyer admissible relève des art. 269 et 269a CO.
Les locataires ont soutenu que le loyer était abusif (art. 269 CO) et qu'il était également excessif compte tenu des loyers usuels (art. 269a let. a CO).
Il résulte de la structure légale que la règle de l'art. 269 CO prime les cas énoncés à titre d'exemples par l'art. 269a CO; en conséquence, même si le loyer se tenait dans les limites des loyers usuels (art. 269a let. a CO), le locataire pourrait toujours faire valoir qu'il procure au bailleur un rendement abusif au sens de l'art. 269 CO; en conséquence, le calcul de rendement selon la méthode absolue - au moins lorsqu'il ne s'agit pas d'une acquisition ancienne - constitue la voie à suivre pour déterminer le loyer admissible (cf. ATF 124 III 310 consid. 2b p. 312).
2.5 Pour effectuer le calcul de rendement, il faut tout d'abord déterminer quels sont les fonds propres investis; pour cela, il faut partir du coût de revient effectif de l'immeuble, à moins que le prix d'achat de celui-ci ne soit manifestement exagéré (ATF 123 III 171 consid. 6a p. 174). En l'espèce, il n'est pas contesté que le prix de revient s'est élevé, en 1990, à 890'000 fr.
Les fonds propres investis doivent ensuite être adaptés au renchérissement, mais leur réévaluation ne saurait dépasser le 40% du prix de revient de l'immeuble (ATF 123 III 171 consid. 6a p. 174; 120 II 100 consid. 5 p. 101 ss). Les juges de première instance ont ainsi déterminé le total des fonds propres réactualisés au montant de 1'008'156 fr. (cf. jugement du Tribunal des baux p. 9). Le chiffre de 1'800'156 fr. figurant dans l'arrêt attaqué (arrêt p. 21), lequel fait référence au jugement de première instance, procède d'un lapsus calami, qui doit être rectifié d'office en application de l'art. 105 al. 2 LTF.
Quant aux frais de rénovation, fixés à 140'000 fr., ils ne sont pas contestés. La bailleresse n'a pas tenté de distinguer concrètement entre les investissements à plus-value et les frais d'entretien. C'est donc à juste titre que l'autorité cantonale a appliqué la règle simplificatrice de l'art. 14 al. 1 OBLF. Dire, entre 50 et 70%, quel est le pourcentage qu'il faut choisir comme part de plus-value est une question d'appréciation que le Tribunal fédéral ne peut revoir qu'avec retenue (arrêts 4A_102/2012 du 30 mai 2012 consid. 2.6; 4A_495/2010 du 20 janvier 2011 consid. 9.1). Les témoignages conduisent à penser qu'il n'y a pas eu de rénovation importante depuis longtemps; il n'apparaît donc pas que la cour cantonale ait abusé de son large pouvoir d'appréciation en fixant à 50% la part à plus-value. La manière dont les travaux à plus-value ont été pris en compte dans le calcul n'est pas discutée par la recourante, de sorte qu'il n'y a pas lieu d'y revenir (art. 42 al. 1 et 2 LTF).
Quant au rendement admissible sur les fonds investis, les juges de première instance ont constaté que les deux parties avaient admis un taux de 3,25%. Ce taux n'a pas été discuté en appel. Comme l'objet du litige (le montant du loyer) est à la libre disposition des parties, celles-ci pouvaient convenir librement d'un taux de rendement et il n'y a donc pas lieu d'examiner la question.
Pour déterminer le loyer admissible, il n'y avait pas à tenir compte d'intérêts débiteurs sur des capitaux empruntés, dès l'instant où il a été constaté que le prix de revient de l'appartement avait été financé entièrement par des fonds propres.
Quant aux charges courantes d'exploitation (ATF 123 III 171 consid. 6a p. 174), la cour cantonale a constaté que la recourante - bien qu'elle y ait été invitée - n'avait pas fourni des pièces permettant de les établir par une moyenne sur trois ans. Il s'agit là d'une pure question d'appréciation des preuves apportées, que le Tribunal fédéral ne pourrait revoir que sous l'angle restreint de l'arbitraire. La recourante n'ayant pas formulé un tel grief, le point n'a pas à être examiné (art. 106 al. 2 LTF).
La recourante revient sur des frais d'acquisition qui auraient dû être pris en compte. La cour cantonale a admis cet argument, mais elle a retenu que ces frais devaient être compensés avec des bénéfices de liquidation que la recourante a touchés à la suite de la dissolution de la société immobilière. Ce raisonnement, qui repose essentiellement sur des faits que le Tribunal fédéral ne peut pas revoir, résiste à la critique.
Ainsi, le loyer admissible a été fixé, sans violer le droit fédéral, à 35'040 fr. par an, charges non comprises.
2.6 Il en résulte que le trop-perçu doit être restitué et que la garantie à fournir par le locataire doit être limitée à trois mois du loyer ainsi déterminé (art. 257e al. 2 CO). Ces points ne sont d'ailleurs pas remis en cause.
3. 3.1 La bailleresse a adressé aux locataires un congé extraordinaire pour justes motifs fondé sur l'art. 266g CO.
Si les conditions légales d'un congé extraordinaire ne sont pas réunies, le congé est inefficace (ATF 122 III 92 consid. 2d p. 95).
Lorsque les conditions légales d'un congé extraordinaire ne sont pas réalisées, le juge ne peut pas transformer d'office le congé extraordinaire en une résiliation ordinaire (ATF 135 III 441 consid. 3.3 p. 444 s.).
La bailleresse a soutenu que les locataires l'avaient menacée de la dénoncer à l'autorité administrative afin de faire pression sur elle et de l'amener à accepter un loyer moins élevé.
La cour cantonale a constaté que la bailleresse n'avait prouvé aucune déclaration des locataires dans ce sens. Dès lors que l'arbitraire n'a pas été invoqué sur ce point (art. 106 al. 2 LTF) et que l'on ne voit pas pourquoi l'état de fait cantonal serait sur ce point manifestement inexact (art. 105 al. 2 LTF), on ne peut pas raisonner avec l'état de fait invoqué par la recourante.
Sur la base des constatations retenues par la cour cantonale - qui lient le Tribunal fédéral (art. 105 al. 1 LTF) -, les locataires ont signalé les travaux au département compétent. A la différence d'un travailleur (art. 321a CO), un locataire n'est pas tenu par un devoir particulier de fidélité. Il n'y a rien d'illicite à signaler à l'autorité compétente une éventuelle violation de la loi. Le comportement des locataires ne constitue donc ni une violation du contrat ni un acte illicite. Ils espéraient manifestement que l'autorité administrative se penche, selon les règles qui lui sont propres, sur le montant maximum du loyer, afin d'en tirer des arguments dans la procédure civile. Il n'est pas possible de reprocher à un locataire d'essayer de faire triompher les prétentions qu'il formule de bonne foi en utilisant des voies qui ne sont prohibées ni par la loi ni par le contrat. Une fois les faits dénoncés, la procédure administrative se poursuivait nécessairement d'office, de sorte qu'il n'apparaît pas que les locataires aient pu l'utiliser pour exercer une pression indue sur la bailleresse. Comme l'état de fait retenu ne correspond pas à une situation de menace ou de chantage telle que la bailleresse l'a décrite, il faut constater, étant observé qu'elle continue de recevoir le loyer, qu'il n'y a pas de justes motifs rendant insupportable la continuation du bail jusqu'à son terme.
Les conditions de la résiliation anticipée prévue par l'art. 266g CO n'étant pas réalisées, c'est à juste titre que le congé a été déclaré inefficace.
3.2 Il suit nécessairement de là que la demande d'évacuation était infondée.
4. En conséquence, le recours doit être entièrement rejeté.
Les frais judiciaires et les dépens seront mis à la charge de la recourante qui succombe (art. 66 al. 1 et 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 5'000 fr., sont mis à la charge de la recourante.
3. La recourante versera aux intimés, créanciers solidaires, une indemnité de 6'000 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux parties et à la Cour de justice du canton de Genève, Chambre des baux et loyers.
Lausanne, le 2 avril 2013
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
Le Greffier: Ramelet