Faits:
A. Par contrat du 2 juillet 2004, X._ (le bailleur) a remis à bail à Z._ (la locataire), moyennant un loyer annuel de 18'000 fr., charges non comprises, l'usage d'un appartement de trois pièces, avec cave, sis au 1er étage de l'immeuble bâti au ..., à Genève. Le bail a été conclu pour une durée initiale de cinq ans, soit du 1er juillet 2004 au 30 juin 2009. La formule officielle indiquant le loyer initial, datée du 2 juillet 2004, mentionnait que le loyer acquitté par le précédent locataire se montait à 16'800 fr. par an, sans les charges, depuis le 1er mai 2003 et que le motif de l'augmentation du loyer résidait dans l'adaptation aux loyers usuels du quartier, au sens de l'art. 269a let. a CO.
L'immeuble dans lequel se trouve ledit appartement a été construit entre les années 1921 et 1946. Il n'est pas contesté que cet immeuble était initialement propriété de la société immobilière A._ (ci-après: la société immobilière). A une date inconnue mais avant le 12 juillet 1984, il a été soumis au régime de la propriété par étages. Dans son recours au Tribunal fédéral, le bailleur a allégué que cette année-là ce bâtiment était toujours la propriété de la société immobilière, car il est notoire que cette société n'a été dissoute que le 9 décembre 1997 par une décision de l'assemblée générale, puis radiée le 27 octobre 1999 après sa liquidation.
L'appartement précité a une surface d'environ 48 m2; il se compose d'un salon, d'une chambre à coucher, d'une cuisine aménagée, d'une salle de bains, d'un petit hall et dispose d'un balcon de faible dimension; il ne possède pas de fenêtres à doubles vitrages.
Si les murs et plafonds du salon et de la chambre à coucher avaient été repeints peu avant l'entrée de la locataire dans les locaux, les murs des autres pièces, ainsi que les boiseries et plinthes étaient défraîchis, alors que les radiateurs étaient poussiéreux et décrits comme « pas très propres » dans le procès-verbal d'état des lieux d'entrée effectué le 14 juillet 2004.
B. B.a Le 28 juillet 2004, Z._ a contesté le loyer initial devant la Commission de conciliation en matière de baux et loyers de Genève, requérant en outre l'exécution de travaux. Elle a sollicité que le bailleur produise toutes les pièces utiles à la mise en oeuvre d'un calcul de rendement. Le 9 novembre 2004, cette autorité a constaté l'échec de la conciliation.
Le 15 novembre 2004, la locataire a saisi le Tribunal des baux et loyers du canton de Genève d'une requête en contestation du loyer initial. Elle a requis que le loyer annuel de 18'000 fr., charges non comprises, soit déclaré abusif, qu'il soit réduit au montant de 9'675 fr. par an, sans les charges, qu'il soit ordonné un calcul de rendement, le bailleur devant produire toutes les pièces comptables nécessaires pour déterminer le rendement admissible, que le bailleur soit condamné à lui rembourser les loyers encaissés en trop et que la garantie bancaire soit ramenée à trois mois du loyer réduit.
Le bailleur a conclu principalement à l'irrecevabilité de la demande, subsidiairement à son rejet, le loyer de l'appartement devant être fixé à 18'000 fr. par an dès le 1er juillet 2004, sans les charges. Il a soutenu que les conditions mises par l'art. 270 al. 1 CO pour que la locataire soit autorisée à contester le loyer initial n'étaient pas remplies et que de toute manière le loyer contesté n'était pas abusif.
Invité par le tribunal à produire les pièces nécessaires pour effectuer un calcul de rendement, le bailleur a déposé le 20 juin 2005 notamment un protocole d'accord signé le 20 juin 1988; il résulte de ce document que le bailleur a acquis, pour le prix de 79'500 fr., un certificat d'actions représentant 27 actions de la société immobilière alors propriétaire de l'immeuble érigé au ..., soit 27,5/1000e correspondant à l'appartement de trois pièces en cause. Le bailleur a également produit les comptes de charge du bâtiment pour les années 2000 à 2003.
Dans ses conclusions motivées du 6 septembre 2005, la locataire, sur la base d'un calcul de rendement, a conclu principalement à ce que le loyer annuel soit fixé à 4'584 fr., sans les charges, dès le 1er juillet 2004, subsidiairement à ce qu'il soit fixé dès cette date à 9'675 fr. compte tenu des statistiques, le bailleur devant lui restituer les loyers perçus en trop.
B.b Par jugement du 8 septembre 2006, le tribunal a fixé à 12'000 fr., charges non comprises, dès le 1er juillet 2004 le loyer annuel de l'appartement, condamné le bailleur à restituer à la locataire le trop-perçu de loyers et réduit la garantie bancaire à trois mois du loyer ainsi recalculé. Renonçant à effectuer un calcul de rendement au motif que le prix d'achat des actions de la société immobilière ne reflétait pas la valeur de l'appartement, en sorte que le prix d'acquisition de celui-ci ne pouvait pas être déterminé, le tribunal a arrêté le nouveau loyer sur la base de statistiques.
Le 29 octobre 2007, la locataire a quitté l'appartement dont le loyer est litigieux et rendu les clés de celui-ci.
Par arrêt du 8 septembre 2008, la Chambre d'appel en matière de baux et loyers du canton de Genève a annulé le jugement précité et renvoyé la cause au Tribunal des baux et loyers pour reprise de l'instruction. Elle a d'emblée admis que la locataire était fondée à contester le loyer initial en application de l'art. 270 al. 1 let. a CO, dans la mesure où la seule condition alternative afférente à l'existence d'une situation de pénurie sur le marché du logement était réalisée. La cour cantonale a retenu que le tribunal avait écarté à tort la possibilité d'effectuer un calcul de rendement, car la valeur du certificat d'actions, qui ne concernait que l'appartement et la cave remis à bail à la locataire à l'exclusion de tout autre objet ou valeur, représentait manifestement la valeur d'achat de ce logement, que cette valeur n'apparaissait pas disproportionnée et qu'elle pouvait ainsi servir de base pour fixer le rendement admissible. Elle a donc retourné l'affaire au tribunal pour qu'il effectue un calcul de rendement.
B.c Le Tribunal des baux et loyers a repris l'instruction. Au cours de celle-ci, le bailleur a fait valoir que le calcul de rendement était impossible en l'espèce, dès l'instant où le prix de vente des actions d'une société immobilière pouvait comprendre d'autres valeurs que la seule valeur vénale de l'objet immobilier acquis. Il a alors produit, avec ses écritures du 11 septembre 2009, les fiches de cinq appartements de comparaison. Il a encore déposé l'état locatif de deux autres immeubles situés dans le quartier et s'est prévalu des statistiques cantonales des loyers pour les appartements de trois pièces en Ville de Genève dans des immeubles construits avant 1951. Quant à la locataire, elle a prétendu que le loyer pouvait être fixé en fonction d'un calcul de rendement à opérer sur la base des documents produits par le bailleur et que le loyer admissible devait être arrêté à 4'926 fr. par an, charges non comprises.
Par jugement du 30 novembre 2009, le Tribunal des baux et loyers a effectué un calcul de rendement et prononcé que le loyer annuel de l'appartement de la locataire devait être arrêté à 9'675 fr. sans les charges dès le 1er juillet 2004. Le tribunal, bien qu'il ait abouti par la méthode absolue à un loyer admissible de 4'926 fr.75 par an, l'a fixé à 9'675 fr. par an, hors charges, pour se conformer aux conclusions prises par la locataire dans ses premières écritures, que cette dernière n'était pas en droit de modifier en cours d'instance à défaut d'avoir formulé de réserve.
Par arrêt du 19 septembre 2011, la Chambre des baux et loyers de la Cour de justice du canton de Genève, statuant sur l'appel du bailleur (qui voulait que le loyer initial soit maintenu à 18'000 fr. par an hors charges) et l'appel incident de la locataire (qui requérait que le loyer annuel soit fixé à 4'926 fr.75 sans les charges), a rejeté l'appel principal, admis l'appel incident et fixé le loyer admissible pour l'appartement à 4'926 fr.75 par an dès le 1er juillet 2004, condamné le bailleur à restituer à la locataire le trop-perçu de loyers et réduit la garantie bancaire à trois mois du loyer calculé à nouveau.
Considérant que l'appartement ne pouvait être qualifié d'ancien au sens de la jurisprudence du Tribunal fédéral, la Chambre des baux et loyers a écarté le critère des loyers usuels pour procéder à un calcul de rendement d'après les documents produits par le bailleur, retenant la méthode et les chiffres adoptés par le Tribunal des baux et loyers dans son jugement du 30 novembre 2009. La cour cantonale a également admis, en vertu de l'interdiction du formalisme excessif, que le tribunal ne pouvait pas s'en tenir aux premières conclusions prises par la locataire dans sa requête initiale, puisque les éléments utiles pour procéder à un calcul de rendement n'étaient pas connus de cette dernière à ce moment. Le tribunal ayant déterminé le loyer annuel admissible à 4'926 fr.75, c'est à ce montant qu'il se devait de fixer le loyer initial à compter du 1er juillet 2004, d'où l'admission de l'appel incident sur ce point.
C. Le bailleur exerce un recours en matière civile au Tribunal fédéral contre l'arrêt précité. Principalement, il conclut à la mise à néant de cette décision et au renvoi de la cause à la cour cantonale pour qu'elle réalise une expertise en vue que soient déterminés la valeur intrinsèque de l'appartement que louait la locataire puis, sur cette base, le rendement non abusif de ce logement. Subsidiairement, il requiert que le loyer annuel initial admissible de l'appartement soit arrêté à un montant minimum de 13'392 fr. dès le 1er juillet 2004, sans les charges.
L'intimée propose le rejet du recours et la confirmation de l'arrêt déféré.
Considérant en droit:
1. 1.1 Dans les causes de droit du bail à loyer, le recours en matière civile n'est recevable que si la valeur litigieuse s'élève au moins à 15'000 fr. (art. 74 al. 1 let. a LTF). Devant l'autorité précédente (art. 51 al. 1 let. a LTF), la part contestée du loyer annuel se montait à 8'325 fr. (18'000 fr. - 9'675 fr.). In casu, le bail a pris effet le 1er juillet 2004 pour se terminer à fin octobre 2007. Compte tenu de la durée contractuelle de trois ans et quatre mois, la valeur litigieuse dépasse clairement le montant de 15'000 fr., de sorte que le recours est recevable ratione valoris.
1.2 Interjeté pour le reste par la partie défenderesse qui a succombé dans ses conclusions tendant au maintien du loyer initial convenu et qui a ainsi la qualité pour recourir (art. 76 al. 1 LTF), dirigé contre un arrêt final (art. 90 LTF) rendu en matière civile (art. 72 al. 1 LTF) par une autorité de dernière instance statuant sur recours (art. 75 LTF), le recours est par principe recevable, puisqu'il a été déposé dans le délai (art. 100 al. 1 LTF) et la forme (art. 42 LTF) prévus par la loi.
Le recours en matière civile est par nature un recours en réforme (art. 107 al. 2 LTF), de sorte que les conclusions principales du recourant, qui ne sont pas chiffrées et sont essentiellement cassatoires, sont irrecevables. L'hypothèse exceptionnelle dans laquelle de telles conclusions sont admissibles (cf. ATF 134 III 379 consid. 1.3 p. 383 et l'arrêt cité) n'est en effet pas réalisée, ce que ne conteste d'ailleurs pas le recourant. En revanche, ses conclusions subsidiaires, tendant à ce que le loyer initial soit arrêté au minimum à 13'392 fr. par an, sont quant à elles recevables.
1.3 Le recours en matière civile peut être interjeté pour violation du droit fédéral (art. 95 let. a LTF), y compris le droit constitutionnel (ATF 136 I 241 consid. 2.1 p. 247; 136 II 304 consid. 2.4 p. 313). Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Il n'est pas limité par les arguments soulevés dans le recours ni par la motivation retenue par l'autorité précédente; il peut donc admettre un recours pour d'autres motifs que ceux qui ont été articulés, ou à l'inverse, rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (ATF 137 II 313 consid. 1.4 p. 317 s; 135 III 397 consid. 1.4 et l'arrêt cité). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (art. 108 al. 1 let. b LTF), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui (ATF 135 II 384 consid. 2.2.1 p. 389; 135 III 397 consid. 1.4). Par exception à la règle selon laquelle il applique le droit d'office, il ne peut entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal que si le grief a été invoqué et motivé de manière précise par la partie recourante (art. 106 al. 2 LTF; ATF 135 III 397 consid. 1.4 in fine).
1.4 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si les constatations factuelles de l'autorité cantonale ont été établies de façon manifestement inexacte - notion qui correspond à celle d'arbitraire telle que l'entend l'art. 9 Cst. ( ATF 137 I 58 consid. 4.1.2 p. 62; 136 II 304 consid. 2.4) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF).
La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'art. 105 al. 2 LTF seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (ATF 136 I 184 consid. 1.2 p. 187; 133 IV 286 consid. 1.4 et 6.2). Une rectification de l'état de fait ne peut être demandée que si elle est susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF).
1.5 Le Tribunal fédéral ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF). Toute conclusion nouvelle est irrecevable (art. 99 al. 2 LTF).
2. Le recourant invoque une violation des art. 269 et 269a CO, ainsi que 10 et 11 al. 4 OBLF. Il fait valoir qu'il est notoire, selon la consultation du registre du commerce sur internet, que la société immobilière a été dissoute le 9 décembre 1997, par décision de l'assemblée générale, puis radiée le 27 octobre 1999. Dès lors, poursuit-il, lorsque l'immeuble dans lequel se situe l'appartement remis à bail à l'intimée a été soumis au régime de la propriété par étages, soit en 1984, le bâtiment appartenait encore à la société immobilière. Il prétend que la cour cantonale, pour avoir ignoré ce fait notoire, n'a pas tenu compte qu'il n'est devenu propriétaire en nom du logement que lors de la dissolution de la société immobilière et du transfert des appartements au nom des divers actionnaires, et non en 1984. Il en infère que le prix du certificat d'actions ne représentait pas en 1988 la valeur de l'appartement, car il fallait prendre en considération d'autres éléments financiers relatifs à la société immobilière, telle la charge fiscale latente. A suivre le recourant, il était donc impossible d'effectuer un calcul de rendement en retenant comme valeur réelle d'acquisition de l'appartement le prix d'achat du certificat d'actions, par 79'500 fr. Du reste, le résultat auquel aurait abouti l'autorité cantonale, en se référant à la détermination du loyer admissible opérée par le Tribunal des baux et loyers, serait « économiquement irréaliste ». Le recourant est ainsi d'avis que la cause doit être renvoyée à l'autorité cantonale pour qu'elle fixe par expertise la valeur intrinsèque de l'appartement, puis détermine les fonds propres théoriques du bailleur.
Le recourant soutient encore que si l'affaire ne devait pas être retournée aux juges précédents, les statistiques officielles cantonales genevoises sur les loyers des appartements de trois pièces à Genève feraient ressortir un loyer moyen s'élevant à 13'392 fr. par an. En capitalisant ce loyer moyen à un taux de 5,75% (soit 2 à 3% au-dessus du taux hypothécaire de référence en vigueur en juillet 2004), le prix de revient théorique dépasserait 230'000 fr., valeur réaliste au point de vue économique.
3. 3.1 Pour que le locataire soit fondé à contester le loyer initial selon l'art. 270 al. 1 CO, il doit soit avoir été contraint de conclure le bail par nécessité personnelle ou familiale (let. a, première hypothèse), soit avoir été contraint de le conclure en raison de la situation du marché local (let. a, deuxième hypothèse), soit encore avoir subi une augmentation sensible de loyer par rapport à celui payé par le précédent locataire pour la même chose (let. b, troisième hypothèse). Ces trois conditions formelles auxquelles est subordonnée la recevabilité d'une demande de diminution du loyer initial sont alternatives; partant, il suffit que l'une d'entre elles soit remplie pour qu'il faille entrer en matière sur la demande de contestation dudit loyer (cf. ATF 136 III 82 consid. 2 p. 84).
A bon droit, le recourant n'a pas remis en cause dans son recours en matière civile que l'intimée pouvait invoquer, pour s'en prendre au loyer initial, la situation de contrainte engendrée par le marché local (cf. art. 270 al. 1 let a in fine CO), ainsi que l'avait retenu la Chambre d'appel dans son arrêt de renvoi du 8 septembre 2008.
Le nouveau locataire, auquel le bailleur notifie la formule officielle dont l'usage a été rendu obligatoire notamment par le canton de Genève (art. 269d et 270 al. 2 CO; PETER R. BURKHALTER/EMMANUELLE MARTINEZ-FAVRE, Le droit suisse du bail à loyer, 2011, adaptation française de la 3e éd. du SVIT Kommentar de RAYMOND BISANG ET AL, n° 33 ad art. 270 CO), formule comportant en particulier le montant du loyer payé par le précédent locataire et celui du loyer initial ainsi que les motifs précis justifiant la hausse de loyers (art. 19 al. 1, 1bis et 3 OBLF), peut admettre de bonne foi que seuls ces motifs ont entraîné une augmentation de son loyer initial par rapport au précédent loyer. La bonne foi du nouveau locataire mérite d'être protégée. Aussi le juge ne saurait-il examiner l'admissibilité du loyer initial à la lumière d'autres critères, à moins que le locataire ne réclame, de son côté, un tel examen, qui ne peut alors pas lui être refusé (ATF 121 III 364 consid. 4b p. 367). En effet, lors d'une contestation du loyer initial, le locataire doit être admis à apporter la preuve, par un calcul selon la méthode absolue, que le loyer convenu procure au bailleur un rendement excessif au sens de l'art. 269 CO (ATF 124 III 310 consid. 2b). Cette démarche peut conduire à fixer un loyer inférieur à celui payé par le précédent locataire (arrêt 4A_3/2011 du 28 février 2011 consid. 2).
Dans le cas présent, le nouveau loyer a été fixé au moyen d'une formule officielle, de sorte que la clause le fixant n'est pas nulle (art. 269d al. 2 let. a CO, par renvoi de l'art. 270 al. 2 CO). Il est en outre constant que l'intimée a saisi la commission de conciliation en temps utile (art. 270 al. 1 CO).
L'art. 270 al. 1 CO ne règle que les conditions formelles à la contestation du loyer initial. Les critères matériels permettant de juger du bien-fondé d'une demande de baisse du loyer initial se trouvent aux art. 269 et 269a CO (ATF 120 II 240 consid. 2 p. 243).
3.2 Dans la formule officielle de notification du loyer initial, le recourant s'est prévalu des loyers usuels dans le quartier (art. 269a let. a CO) pour justifier la hausse de loyer par rapport à celui payé par le précédent locataire. Pour sa part, l'intimée, tant dans sa requête adressée à la commission de conciliation que dans sa demande déposée auprès du Tribunal des baux et loyers, a invoqué un rendement abusif tel que l'entend l'art. 269 CO. On voit donc que le recourant s'est fondé sur un critère absolu de fixation du loyer fondé sur le marché, alors que l'intimée s'est basée sur un critère absolu déterminant le loyer à partir des coûts. D'après la jurisprudence, les loyers du marché et les loyers fondés sur les coûts sont antinomiques (ATF 121 III 6 consid. 3c p. 11; arrêt 4A_276/2011 du 11 octobre 2011 consid. 5.4). Cet avis est partagé par la doctrine moderne (cf. ROGER WEBER, Basler Kommentar, Obligationenrecht I, 5e éd. 2011, n° 15 ad art. 269 CO; DAVID LACHAT, Le bail à loyer, 2008, ch. 1.6 p. 525; LE MÊME, Commentaire romand, Code des obligations I, 2003, n° 5 ad Intro. art. 269-270e CO; PETER HIGI, Zürcher Kommentar, 1998, n° 434 ad art. 269 CO). Ces deux critères absolus, s'ils sont ainsi exclusifs, obéissent à une hiérarchie.
Dans l'arrêt de principe publié aux ATF 124 III 310, le Tribunal fédéral a jugé que les exceptions prévues à l'art. 269a CO, qui posent notamment la présomption que ne sont en règle générale pas abusifs les loyers qui se situent dans les limites des loyers usuels dans la localité ou dans le quartier (let. a), sont subsidiaires, en ce sens qu'elles ne déploient d'effet que si le locataire ne parvient pas à renverser la présomption entrant en considération. La présomption légale de l'art. 269a let. a CO peut être renversée par le locataire qui prouve que le rendement de l'immeuble est exagéré au sens de l'art. 269 CO. Il y a donc en principe une prééminence du critère absolu du rendement net de l'art. 269 CO par rapport à celui des loyers usuels du quartier de l'art. 269a let. a CO (cf. arrêts 4A_276/2011 du 11 octobre 2011 déjà cité, consid. 5.2.1; 4A_3/2011 du 28 février 2011 consid. 2; 4C.61/2005 du 27 mai 2005 consid. 4.3.2, in SJ 2006 I p. 34).
Toutefois, pour les immeubles anciens, à savoir ceux qui sont acquis ou construits il y a quelques décennies, où il y a impossibilité à établir le rendement excessif faute de connaître les fonds propres entrant dans le calcul du loyer (les pièces comptables n'existent plus ou laissent apparaître des montants qui ne sont plus en phase avec la réalité économique), la hiérarchie des critères absolus est inversée. Ainsi si le loyer initial ne dépasse pas les limites des loyers usuels, il n'est pas considéré comme abusif, sans qu'il se justifie de procéder à un calcul de rendement (arrêts 4A_276/2011 du 11 octobre 2011 déjà cité, consid. 5.2.1; 4C.285/2005 du 18 janvier 2006 consid. 2.4; 4C.236/2004 du 12 novembre 2004 consid. 3.2; 4C.323/2001 du 9 avril 2002 consid. 3a, in SJ 2002 I p. 434; cf. ATF 122 III 257 consid. 4a/bb p. 261 concernant une baisse de loyer en cours de bail pour un logement sis dans un bâtiment acquis en 1953).
3.3 Au considérant 4.3 de l'arrêt déféré, la cour cantonale a admis que le logement qui avait été remis à bail à l'intimée ne se situait pas dans un immeuble « ancien », de sorte que l'inversion des facteurs absolus de fixation du loyer ne pouvait pas entrer en ligne de compte.
Il a été retenu, en fonction d'un protocole d'accord signé le 20 juin 1988, que le bailleur a acquis à cette date, au prix de 79'500 fr., un certificat d'actions qui représentait 27 actions de la société immobilière et qui correspondait à l'appartement de trois pièces en cause. Le recourant a allégué que la société immobilière a été dissoute le 9 décembre 1997. On voit donc que l'immeuble n'a pas été acquis il y a plusieurs décennies avant la conclusion du bail du 2 juillet 2004, de sorte qu'il ne saurait être considéré comme ancien au sens de la jurisprudence mentionnée au considérant 3.2 ci-dessus.
Il n'y avait conséquemment pas lieu d'inverser l'ordre de priorité entre les critères absolus de fixation du loyer instauré par l'ATF 124 III 310. Autrement dit, le loyer initial devait être déterminé à partir d'un calcul de rendement (art. 269 CO), et non sur la base des loyers usuels dans le quartier (art. 269a let. a CO).
Il n'y avait conséquemment pas lieu d'inverser l'ordre de priorité entre les critères absolus de fixation du loyer instauré par l'ATF 124 III 310. Autrement dit, le loyer initial devait être déterminé à partir d'un calcul de rendement (art. 269 CO), et non sur la base des loyers usuels dans le quartier (art. 269a let. a CO).
3.4 3.4.1 En vertu de l'art. 269 CO, les loyers sont abusifs lorsqu'ils permettent au bailleur d'obtenir un rendement excessif de la chose louée ou lorsqu'ils résultent d'un prix d'achat manifestement exagéré.
L'hypothèse du prix d'achat manifestement exagéré, explicitée à l'art. 10 OBLF, dans laquelle il sied de faire abstraction de ce prix d'achat et de considérer, dans le calcul de rendement, un prix « normal » d'acquisition, peut être écartée d'entrée de jeu, du moment qu'au contraire le recourant se plaint de la prise en compte dans la détermination du rendement admissible d'un prix d'achat bien trop faible.
Dans le cas présent, la cour cantonale s'est référée, pour fixer le loyer initial, au calcul de rendement opéré par le Tribunal des baux et loyers dans son jugement du 30 novembre 2009. Dans cette décision, le tribunal a retenu que le prix d'acquisition par le recourant du certificat d'actions, par 79'500 fr., payé le 20 juin 1988 sans faire appel à des fonds étrangers, représentait la valeur d'achat de l'appartement dont le loyer initial a été contesté par l'intimée.
La cour cantonale a justifié la prise en compte de ce montant de fonds propres par le fait que le certificat d'actions portait exactement sur l'appartement loué à l'intimée, y compris la cave qui lui est liée, la constitution des appartements de l'immeuble en propriété par étages remontant au mois de juillet 1984, à savoir quatre ans avant l'acquisition du certificat.
3.4.2 Le recourant a allégué que lorsque l'immeuble a été soumis au régime de la propriété par étages, à savoir dans le courant de l'année 1984, il était toujours la propriété de la société immobilière A._; il serait en effet notoire que cette société n'a été dissoute que le 9 décembre 1997 par décision de l'assemblée générale, avant d'être radiée le 27 octobre 1999. Il en déduit que le prix de vente du certificat d'actions de cette société immobilière, qu'il a versé le 20 juin 1988 par 79'500 fr., ne peut être assimilé au prix d'achat de l'appartement.
Il est de jurisprudence que constituent des faits notoires, qu'il n'est pas nécessaire d'alléguer ni de prouver, ceux dont l'existence est certaine au point d'emporter la conviction du juge; pour être notoire, un renseignement doit pouvoir être contrôlé par des publications accessibles à chacun (ATF 135 III 88 consid. 4.1 et les références). Les inscriptions au registre du commerce, accessibles au public par internet, sont notoires (arrêt 4A_273/2011 du 22 décembre 2011 consid. 2.2).
Il résulte ainsi des renseignements fournis par le registre du commerce que la société immobilière a été dissoute par décision de son assemblée générale prise le 9 décembre 1997 et qu'elle a été radiée le 27 octobre 1999 après l'achèvement de sa liquidation. Il suit de là qu'en juillet 1984, mois où l'immeuble a acquis le statut de propriété par étages, la société immobilière en était propriétaire. Autrement dit, toutes les parts de copropriété appartenaient à la société immobilière, cela jusqu'à sa dissolution.
Il a été retenu que le 20 juin 1988, le recourant est devenu actionnaire de la société immobilière en achetant, pour le prix de 79'500 fr., 27 actions, titres donnant le droit d'user de la part de copropriété - appartenant à la société immobilière - qui correspondait à l'appartement litigieux avec sa cave.
Mais ce n'est qu'après que la société immobilière a été dissoute et que les appartements de l'immeuble ont été inscrits au registre foncier aux noms des divers actionnaires de cette dernière que le recourant est devenu le propriétaire de l'appartement, qu'il a remis ultérieurement à bail à l'intimée.
3.4.3 Au vu de ce qui vient d'être dit, le 20 juin 1988, le recourant a acheté des actions d'une société immobilière pour le prix de 79'500 fr., et non une part de copropriété ayant pour objet l'appartement dont le loyer est litigieux.
Il est admis que le prix de vente des actions d'une société immobilière ne peut pas, en règle générale, être considéré comme la valeur d'achat de l'immeuble. De fait, ce prix ne reflète pas nécessairement la valeur de l'immeuble social; il est en effet également dépendant de diverses particularités, telles que les dettes sociales et hypothécaires, les actifs non immobiliers (réserves latentes après déduction de la charge fiscale latente), la créance de l'actionnaire, ainsi que les recettes et dépenses de la société (ATF 112 II 149 consid. 3c; arrêt 7B.216/2005 du 1er mars 2006 consid. 2.1; cf. aussi LACHAT, Le bail à loyer, ch. 3.2 p. 430).
Il s'ensuit que le prix d'achat des actions de la société immobilière versé par le recourant ne peut en principe pas servir de base à la détermination du rendement admissible au sens de l'art. 269 CO.
3.4.4 Il appartient certes au locataire de prouver que le loyer convenu procure au bailleur un rendement excessif (ATF 124 III 310 consid. 2). Mais selon les principes généraux tirés des règles de la bonne foi, la partie qui n'a pas la charge de la preuve (i. e. le bailleur) doit néanmoins collaborer loyalement à l'administration des preuves et fournir les éléments qu'elle est seule à détenir (ATF 115 II 1 consid. 4; arrêt 4A_3/2011 du 28 février 2011 consid. 4). Ce principe est affirmé explicitement en droit du bail par l'art. 274d al. 3 CO. Dès lors que le bailleur détient seul les documents permettant un calcul de rendement, on peut donc attendre de lui qu'il les produise (arrêts 4A_3/2011 du 28 février 2011, ibidem; 4C.61/2005 du 27 mai 2005 consid. 4.3.2, in SJ 2006 I p. 34).
La jurisprudence admet un correctif au prix d'acquisition lorsque le bailleur a acquis le bien à un prix préférentiel, par exemple dans le cadre d'une donation mixte, au motif que l'avantage consenti à celui-ci est destiné exclusivement à le favoriser lui, et non pas ses locataires. Dans un tel cas, le calcul de rendement peut se fonder sur la valeur du marché au moment de l'acquisition (arrêts 4C.285/2005 du 18 janvier 2006 consid. 2.5; 4C.234/1994 du 6 décembre 1994 consid. 3a, approuvé par Beat Rohrer, MRA 2/95, p. 78; plus récemment 4A_276/2011 du 11 octobre 2011 consid. 5.2.4).
A considérer la similarité des situations, on peut ainsi admettre que, selon les circonstances, le prix d'achat des actions d'une société immobilière ne doit pas être pris en compte dans le calcul de rendement comme valeur des fonds propres apportés et qu'il se justifie de tenir compte, à ce titre, du prix du marché d'un appartement ayant des caractéristiques identiques à celui correspondant aux actions achetées, cela à la date d'acquisition desdites actions.
En l'occurrence, le bailleur n'a pas établi la valeur du marché d'un appartement de trois pièces, sis dans un bâtiment construit entre 1921 et 1946, pour l'année 1988, période où il a acquis le certificat d'actions représentant 27 actions de la société immobilière alors propriétaire de l'immeuble. Il tente de se fonder sur le loyer moyen qu'indiqueraient les statistiques genevoises sur les loyers pour des appartements de trois pièces en ville de Genève situés dans des bâtiments construits avant 1951, loyer moyen qu'il capitalise à un taux dépassant de 2 à 3% le taux hypothécaire de référence en vigueur en juillet 2004. Mais, comme on le verra au considérant suivant, les statistiques en question ne constituent pas des statistiques officielles au sens de l'art. 11 al. 4 OBLF, si bien qu'elles ne peuvent pas être utilisées comme le souhaiterait le recourant. En outre, on ne discerne pas ce que vient faire dans ce calcul un facteur de capitalisation reposant sur un taux de référence postérieur de 16 ans à la date d'acquisition des actions de la société immobilière.
Il faut conséquemment retenir que le bailleur n'a pas été à même d'établir le prix du marché de l'appartement en 1988. Dans ces circonstances, on ne saurait faire grief à la cour cantonale d'avoir considéré qu'était déterminant pour le calcul du rendement le prix d'achat du certificat d'actions, par 79'500 fr., payé entièrement par les deniers du recourant. Autrement dit, c'est sans violer le droit fédéral que la cour cantonale a arrêté au montant précité, résultant des pièces produites par le bailleur le 20 juin 2005 à l'invitation du Tribunal des baux et loyers, les fonds propres investis afin de déterminer le rendement admissible de l'immeuble.
La méthode de calcul du Tribunal des baux et loyers explicitée dans le jugement du 30 novembre 2009, à laquelle s'est ralliée la cour cantonale, a abouti à un loyer initial admissible de 4'926 fr.75 par an, sans les charges, dès le 1er juillet 2004. Comme elle ne fait pour le reste l'objet d'aucune critique, il n'y a pas lieu d'y revenir (art. 42 al. 1 et 2 LTF).
3.5 Le recourant cherche enfin à se prévaloir des statistiques genevoises sur les loyers. Il a cependant été admis par la jurisprudence qu'elles ne fournissent pas de données suffisamment différenciées sur les éléments nécessaires à des comparaisons concluantes. En d'autres termes, les statistiques genevoises ne peuvent pas être assimilées aux statistiques officielles envisagées par l'art. 11 al. 4 OBLF (ATF 123 III 317 consid. 4c/cc p. 324 s.; arrêts 4A_379/2009 du 21 octobre 2009 consid. 3.4; 4A_472/2007 du 11 mars 2008 consid. 2.4). C'est donc en pure perte que le recourant y fait référence et se plaint d'une entorse à cette dernière norme.
4. Il suit de là que le recours doit être rejeté dans la mesure de sa recevabilité, l'arrêt attaqué étant confirmé. Les frais judiciaires et les dépens doivent être mis à la charge du recourant, qui succombe (art. 66 al. 1 et 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3. Le recourant versera à l'intimée une indemnité de 2'500 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux mandataires des parties et à la Cour de justice du canton de Genève, Chambre des baux et loyers.
Lausanne, le 27 janvier 2012
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
Le Greffier: Ramelet