Faits:
A. Par contrat du 7 novembre 2005, la Société immobilière X._ SA (ci-après: la bailleresse) a cédé à Y._ (ci-après: la locataire), moyennant un loyer annuel de 45'600 fr. charges non comprises, l'usage d'un appartement de quatre pièces au 2ème étage de l'immeuble sis rue xxx, à Genève. Le bail a été conclu pour une durée initiale de cinq ans, allant du 1er novembre 2005 au 31 octobre 2010, renouvelable ensuite tacitement de cinq ans en cinq ans. Une possibilité de résiliation avant terme était réservée au locataire. S'agissant du loyer, il était assorti d'une clause d'indexation. La garantie de loyer à fournir par la locataire était fixée à 11'400 fr.
Invoquant la clause d'indexation, la bailleresse a augmenté le loyer:
- par avis du 15 mai 2007 à 45'984 fr. par an, sans les charges, dès le 1er juillet 2007;
- par avis du 16 mai 2008 à 47'016 fr. par an, sans les charges, dès le 1er juillet 2008;
- par avis du 11 décembre 2009 à 47'148 fr. par an, sans les charges, dès le 1er février 2010.
B. Le loyer du précédent locataire ne s'élevait qu'à 12'228 fr. par an, mais l'appartement a été entièrement rénové, avant que Y._ n'y emménage.
La locataire a demandé au département compétent si les travaux de rénovation entrepris par la bailleresse avaient fait l'objet d'une autorisation, ce qui a entraîné l'ouverture d'une procédure administrative. Finalement, l'autorité compétente, le 26 mai 2011, a accordé une autorisation rétroactive, assortie d'une amende et fixé le loyer entre les parties à 14'600 fr. par an pour la période allant du 1er novembre 2005 (début du bail) au 31 octobre 2008.
La bailleresse s'est opposée au loyer ainsi fixé. Statuant en dernière instance, la Ire Cour de droit public du Tribunal fédéral, par arrêt du 12 février 2013, a jugé que la législation de droit public cantonal ne violait pas le principe de la primauté du droit fédéral et que l'autorité cantonale disposait d'une base légale suffisante pour imposer le loyer dû entre les parties; elle a relevé que le loyer inscrit dans le contrat initial n'était de ce fait plus valable et ne pouvait pas " renaître "; s'il est vrai que le contrôle étatique cesse à l'issue de la période définie par la loi (trois ans), il n'en demeure pas moins que le loyer ainsi fixé doit servir de base aux éventuelles modifications contractuelles ultérieures qui seront régies par le droit privé du bail (arrêt 1C_496/2012 consid. 2 et 3).
A la suite de la décision de l'administration, la bailleresse a adressé à la locataire un avenant au bail, mais cette dernière ne l'a pas signé, de sorte que ce document est d'emblée dépourvu de portée juridique.
C. Par courrier du 25 février 2010 (donc antérieur à la décision administrative), la locataire a sollicité de la bailleresse une baisse de loyer de 50% dès le 1er novembre 2010, soutenant que le rendement de l'immeuble était manifestement abusif et réclamant un calcul selon la méthode absolue.
La bailleresse s'est opposée à cette demande, faisant valoir que l'appartement avait été complètement rénové.
Après l'échec de l'essai obligatoire de conciliation, la demande en réduction de loyer a été portée devant le Tribunal des baux et loyers du canton de Genève le 1er juillet 2010. La locataire a persisté à demander une réduction de loyer de 50% dès le 1er novembre 2010 avec restitution du trop-perçu.
La cause a été suspendue dans l'attente de l'issue de la procédure administrative.
La locataire a ensuite modifié ses conclusions, demandant au tribunal de constater que le loyer annuel s'élevait à 14'600 fr. et, principalement, à ce que ce montant soit réduit de 50%, avec restitution du trop-perçu et réduction proportionnelle de la garantie de loyer.
La bailleresse a conclu à l'irrecevabilité des conclusions nouvelles et au rejet de la demande.
Par jugement du 26 janvier 2012, le Tribunal des baux et loyers a rejeté la demande en réduction de loyer formée par la locataire à partir du 1er novembre 2010. Comme la locataire n'a pas appelé de cette décision, le sort de cette action est définitivement tranché.
Par ailleurs, le tribunal, dans le même jugement, a constaté que le loyer annuel dû entre les parties, charges non comprises, s'élevait à 14'600 fr. pour la période postérieure au 1er novembre 2008; en conséquence, il a condamné la bailleresse à restituer le trop-perçu et à réduire la garantie bancaire en conséquence. En substance, le tribunal a retenu que les conclusions nouvelles étaient recevables selon la procédure cantonale, parce qu'elles reposaient sur des faits nouveaux (la décision administrative) en étroite connexité avec les faits qui fondaient la demande initiale; s'agissant du montant du loyer, le tribunal a estimé qu'il fallait en rester au montant déterminé par l'autorité administrative jusqu'au 31 octobre 2008, parce que la bailleresse n'avait pas notifié, sur une formule officielle correctement remplie, une augmentation de loyer pour la période postérieure.
La bailleresse a appelé de ce jugement, soutenant que le loyer actuel était fixé à 47'016 fr. par an. La locataire a proposé le rejet de l'appel.
Par arrêt du 19 novembre 2012, la Chambre des baux et loyers de la Cour de justice du canton de Genève a confirmé le jugement attaqué.
D. La bailleresse exerce un recours en matière civile au Tribunal fédéral. Invoquant une violation des art. 9, 29, 49 Cst., des art. 8 CC, 270a, 269 à 270e, 253 et 19 CO, ainsi que la violation arbitraire de diverses dispositions de procédure cantonale, elle conclut, principalement, à l'annulation de l'arrêt attaqué, à l'irrecevabilité des conclusions nouvelles prises par la locataire et à leur rejet au fond; subsidiairement elle demande le renvoi de la cause à la cour cantonale pour nouvelle décision. Sa requête d'effet suspensif a été admise par ordonnance présidentielle du 29 janvier 2013.
L'intimée conclut au rejet du recours.
Considérant en droit:
1. 1.1 Le litige porte essentiellement sur la fixation du loyer. Compte tenu de la divergence séparant les parties devant l'autorité précédente (la bailleresse soutient que le loyer est fixé à 47'016 fr. par an, tandis que la locataire soutient qu'il s'élève à 14'600 fr. par an), il n'est pas douteux que la valeur litigieuse minimale de 15'000 fr. requise en matière de droit du bail est ici atteinte (cf. art. 74 al. 1 let. a LTF).
Interjeté par la partie qui a succombé dans ses conclusions touchant ses intérêts pécuniaires et qui a donc qualité pour recourir (art. 76 al. 1 LTF), dirigé contre un arrêt final (art. 90 LTF) rendu en matière civile (art. 72 al. 1 LTF) par un tribunal supérieur statuant sur recours en dernière instance cantonale (art. 75 LTF), le recours est en principe recevable, puisqu'il a été déposé dans le délai (art. 100 al. 1 LTF) et la forme (art. 42 LTF) prévus par la loi .
1.2 Le recours peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Il peut donc également être formé pour violation d'un droit constitutionnel (ATF 136 I 241 consid. 2.1 p. 247; 136 II 304 consid. 2.4 p. 313).
Le Tribunal fédéral applique d'office le droit dont il peut contrôler le respect (art. 106 al. 1 LTF). Il n'est pas limité par les arguments soulevés dans le recours, ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été articulés ou, à l'inverse, rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (ATF 138 II 331 consid. 1.3 p. 336; 137 II 313 consid. 4 p. 317 s.). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (art. 108 al. 1 let. b LTF), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent lorsque celles-ci ne sont plus discutées devant lui (ATF 137 III 580 consid. 1.3 p. 584; 135 II 384 consid. 2.2.1 p. 389). Par exception à la règle selon laquelle il applique le droit d'office, il ne peut entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal que si le grief a été invoqué et motivé de manière précise par la partie recourante (art. 106 al. 2 LTF).
1.3 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si les faits ont été établis de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire (ATF 137 I 58 consid. 4.1.2 p. 62; 137 II 353 consid. 5.1 p. 356) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF).
La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'art. 105 al. 2 LTF seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (ATF 137 II 353 consid. 5.1 p. 356; 136 I 184 consid. 1.2 p. 187). La partie recourante qui se plaint d'arbitraire dans l'appréciation des preuves et l'établissement des faits doit présenter une argumentation répondant aux exigences de l'art. 106 al. 2 LTF (ATF 137 I 58 consid. 4.1.2 p. 62). Une rectification de l'état de fait ne peut être demandée que si elle est de nature à influer sur le sort de la cause (art. 97 al. 1 LTF). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF).
En l'espèce, la recourante présente son propre état de fait, mais on ne voit pas en quoi l'état de fait dressé par la cour cantonale devrait être qualifié d'arbitraire, de sorte qu'il faut se fonder exclusivement sur celui-ci.
1.4 Le Tribunal fédéral ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF). Toute conclusion nouvelle est irrecevable (art. 99 al. 2 LTF).
2. 2.1 La locataire avait formé initialement une demande en réduction du loyer (art. 270a CO), réclamant un calcul selon la méthode absolue à l'issue de la période d'indexation (cf. ATF 123 III 76 consid. 4c) en vue de déterminer si le loyer ne procure pas à la bailleresse un rendement excessif (art. 269 CO). Elle se fondait alors sur le loyer convenu entre les parties, qui avait été augmenté successivement par trois avis de majoration. En cours de procédure, la décision administrative a modifié profondément la situation quant au loyer dû. En effet, il a été décidé que le loyer dû entre les parties, dès le début du bail (le 1er novembre 2005) jusqu'au 31 octobre 2008 était fixé à 14'600 fr. par an charges non comprises. Un nouveau litige a alors surgi entre les parties: la bailleresse aurait voulu que le loyer soit ramené au niveau du loyer conventionnel après cette dernière date, tandis que la locataire soutenait qu'il fallait raisonner avec l'idée que le loyer est de 14'600 fr. au 31 octobre 2008. Elle a donc pris de nouvelles conclusions demandant au juge de constater le loyer dû entre les parties après le 31 octobre 2008, cette question étant devenue litigieuse.
Savoir s'il est possible, en cours d'instance, d'exercer une nouvelle action et de prendre de nouvelles conclusions est une question qui relève de la procédure applicable. Compte tenu de la date d'introduction de la demande, la procédure restait soumise en première instance au droit cantonal (art. 404 al. 1 CPC). Or le recours en matière civile n'est pas ouvert pour se plaindre d'une violation du droit cantonal (art. 95 LTF). La partie recourante ne peut se plaindre que d'une violation du droit fédéral, en particulier une violation de l'interdiction de l'arbitraire (ATF 134 III 379 consid. 1.2 p. 382 s.; 133 I 201 consid. 1 p. 203). Elle doit alors démontrer l'arbitraire par une motivation circonstanciée répondant aux exigences de l'art. 106 al. 2 LTF (sur la notion d'arbitraire: ATF 138 I 49 consid. 7.1 p. 51, 305 consid. 4.3 p. 319; 138 III 378 consid. 6.1 p. 379 s.; 138 IV 13 consid. 5.1 p. 22).
La cour cantonale a analysé avec soin la question, en citant plusieurs dispositions cantonales ainsi que la doctrine qui s'y rapporte. Elle est parvenue à la conclusion que le droit cantonal permet de modifier les conclusions en cas de faits nouveaux et qu'il est possible, par de simples conclusions, de présenter des demandes additionnelles sans tentative préalable de conciliation lorsqu'il y a connexité (arrêt attaqué consid. 3.1). Contrairement aux exigences de l'art. 106 al. 2 LTF, la recourante n'entreprend pas de critiquer sérieusement cette motivation; elle ne cite en tout cas pas avec précision une disposition cantonale qui rendrait insoutenables les conclusions contenues dans l'arrêt attaqué. Ainsi, l'arbitraire n'est pas démontré. La recourante semble surtout faire valoir que la requête initiale était elle-même insuffisamment motivée. La cour cantonale a examiné cette question au considérant 2.3 de son arrêt. Dès lors que la locataire demandait un calcul de rendement à l'issue de la période d'indexation, sa démarche était parfaitement compréhensible en regard de la jurisprudence (cf. ATF 123 III 76 déjà cité), de sorte que l'on cherche en vain pourquoi cette demande devrait être considérée comme irrecevable pour défaut de motivation suffisante. Sur ce point également, la recourante n'a pas démontré l'arbitraire et son grief doit être rejeté.
2.2 Invoquant la violation de nombreuses dispositions du droit fédéral, la recourante conteste longuement que les diverses conditions pour une réduction du loyer au sens de l'art. 270a CO soient réunies.
Le juge de première instance a cependant rejeté la demande de réduction de loyer formée par la locataire et, celle-ci n'ayant pas exercé d'appel, le sort de cette action est définitivement liquidé. Il est donc sans pertinence de se demander à ce stade si la locataire aurait pu ou non obtenir une réduction du loyer, puisque cette demande n'est plus litigieuse. La décision rendue est une décision en constatation de droit, fixant le loyer dû entre les parties après le 31 octobre 2008.
2.3 Invoquant à nouveau la violation de plusieurs normes de droit fédéral, la recourante revient sur les rapports entre le droit public cantonal et le droit privé fédéral.
On ne peut cependant pas soumettre au Tribunal fédéral plusieurs fois la même question dans la même cause. L'arrêt rendu par la Ire Cour de droit public le 12 février 2013 a constaté que le droit public cantonal ne portait pas atteinte au principe de la primauté du droit fédéral (art. 49 Cst.) et que l'autorité cantonale disposait d'une base légale suffisante pour imposer le loyer dû entre les parties du 1er novembre 2005 au 31 octobre 2008. Il n'y a pas à revenir sur ces questions qui ont été tranchées avec autorité de chose jugée (cf. sur la compatibilité avec le droit civil fédéral des règles cantonales établissant un contrôle des loyers après l'exécution de travaux de rénovation: arrêt 1P.20/2005 du 18 mars 2005 consid. 2, in SJ 2005 I p. 485).
Il en résulte que le loyer dû entre les parties s'élevait à 14'600 fr. par an le 31 octobre 2008.
Si la bailleresse entendait augmenter le loyer après cette date, elle devait notifier un avis de majoration sur une formule officielle correctement remplie (art. 269d CO). Le contenu de l'avis de majoration doit répondre aux exigences de l'art. 19 OBLF. Il doit en particulier indiquer le montant de l'ancien loyer (art. 19 al. 1 let. a ch. 1 OBLF). Le législateur a ainsi institué une forme écrite qualifiée et, si le contenu de la communication n'est pas suffisamment précis, la majoration de loyer est nulle (ATF 121 III 6 consid. 3a et 3b; 120 II 206 consid. 3b).
Les avis de majoration produits ne mentionnent jamais le loyer dû entre les parties entre le 1er novembre 2005 et le 31 octobre 2008, qui constitue pourtant le dernier loyer valablement fixé. L'indexation demandée n'est dès lors pas compréhensible, puisqu'elle repose sur une base fausse. En considérant qu'il n'y a pas eu d'avis de majoration correctement rempli pour la période postérieure au 31 octobre 2008 et que le loyer n'a par conséquent pas été valablement augmenté après cette date, on ne voit pas que la cour cantonale ait violé le droit fédéral. La recourante ne critique d'ailleurs pas sérieusement ce point, alors même qu'il s'agit du fondement de la décision qu'elle attaque.
La recourante affirme que la cour cantonale aurait fondé le loyer dû après le 31 octobre 2008 sur le droit cantonal, mais cette assertion ne trouve aucun point d'appui dans l'argumentation contenue dans l'arrêt attaqué. Le loyer est resté fixé à son niveau au 31 octobre 2008 pour le motif que le bailleur n'a pas augmenté le loyer pour une période postérieure au moyen d'un avis officiel correctement rempli.
2.4 A la fin de son recours, la bailleresse, invoquant à nouveau la violation de nombreuses dispositions de droit fédéral, soutient qu'il n'y avait pas lieu à une réduction de loyer en application de l'art. 270a CO (dont les conditions ne seraient pas remplies) et qu'elle n'a pas pu faire valoir ses moyens de preuves à cet égard.
Toute cette discussion est absolument sans pertinence, puisque - comme on l'a déjà vu - la demande de réduction du loyer formée par la locataire a été rejetée déjà en première instance et que, faute d'appel, elle n'est plus litigieuse devant le Tribunal fédéral. La recourante ne peut se plaindre du rejet de la demande en réduction de loyer, étant donné que cette décision lui est favorable (art. 76 al. 1 let. b LTF).
Le recours doit être entièrement rejeté.
3. Les frais judiciaires et les dépens sont mis à la charge de la recourante qui succombe (art. 66 al. 1 et 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 5'000 fr., sont mis à la charge de la recourante.
3. La recourante versera à l'intimée une indemnité de 6'000 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux parties et à la Cour de justice du canton de Genève, Chambre des baux et loyers.
Lausanne, le 28 mai 2013
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
Le Greffier: Ramelet