Faits:
A. Par contrat conclu le 17 mars 2006 avec Z._ SA (la bailleresse), les époux H.X._ et F.X._ (les locataires) ont pris à bail, dès le 15 avril 2006, un appartement de cinq pièces, avec hall, cuisine agencée, salle de bain, WC séparé et salle de douche, au troisième étage de l'immeuble sis à l'avenue de ... à Pully (Vaud). Le loyer mensuel net était fixé à 1'900 fr., plus mensuellement 220 fr. à titre d'acompte pour le chauffage, l'eau chaude et les frais accessoires, lesquels comprenaient « les charges de préférence et les taxes publiques, telles que taxe d'épuration des eaux (entretien et utilisation), taxe d'égout et taxe d'enlèvement des ordures ». Le contrat prévoyait que les locataires fournissent des sûretés à la bailleresse, par un dépôt bancaire de 5'700 fr.
Le 14 mars 2006, usant d'une formule officielle, la bailleresse avait communiqué aux conjoints précités que le locataire précédent avait versé par mois un loyer net de 1'323 fr., plus 220 fr. d'acompte de chauffage, eau chaude et frais accessoires. L'augmentation du loyer était motivée par « l'adaptation aux loyers usuels de la localité ou du quartier (art. 269a litt. a du CO ». La bailleresse a répété cette communication le 27 mars 2006 dans les mêmes termes, mais en ajoutant, sous la rubrique « Motifs de la hausse éventuelle », la phrase suivante: « en outre, nous signalons que cet appartement a fait l'objet d'une rénovation complète pour un montant de Fr. 51'000 ».
Il a été retenu que le bâtiment dans lequel se trouve l'appartement en question a été construit en 1961.
B. B.a Par requête du 25 avril 2006 adressée à la Commission de conciliation compétente puis, après échec de la conciliation, par demande du 8 novembre 2006 déposée devant le Tribunal des baux du canton de Vaud, les locataires ont contesté le loyer initial convenu.
Principalement, leur demande tendait à faire réduire le loyer net de l'appartement, dès le 15 avril 2006, au montant de 900 fr. par mois; la bailleresse devait être condamnée à leur rembourser les sommes payées par eux, à titre de loyers, au-delà de ce même montant, avec intérêts au taux de 5% l'an dès le 25 avril 2006; à la banque concernée, le tribunal devait ordonner la libération immédiate de 3'000 fr. sur la garantie que les locataires avaient constituée en faveur de la bailleresse. Subsidiairement, les locataires requéraient que le loyer net de l'appartement soit fixé, dès le 15 avril 2006, au montant de 1'323 fr. par mois, que la bailleresse doive leur rembourser les parts des loyers payées en trop, avec les mêmes intérêts, et qu'il soit ordonné à la banque concernée de libérer sans délai en leur faveur la somme de 1'731 fr. sur la garantie qu'ils avaient constituée.
La bailleresse a conclu au rejet de l'action.
En cours d'instance, la défenderesse a produit des fiches comparatives concernant sept appartements sis à Pully, dont deux se trouvaient à l'avenue de ..., deux au chemin du ..., un à la route de ..., un au chemin de ... et le dernier à l'avenue des .... Elle a requis qu'une expertise soit mise en oeuvre pour établir les loyers du quartier.
Par jugement du 4 juin 2007, le Tribunal des baux a partiellement accueilli l'action. Il a jugé que la bailleresse avait échoué dans la preuve des loyers usuels dans le quartier ou la localité au sens de l'<ref-law>, de sorte que le loyer convenu entre les parties se révélait abusif. Le taux hypothécaire avait considérablement diminué depuis la plus récente fixation du loyer du locataire précédent, de sorte que ce loyer-ci, quoique très inférieur au loyer incriminé, était lui aussi abusif. Sur la base d'un calcul tenant compte de divers facteurs, le loyer initial mensuel net devait être fixé dès le 15 avril 2006 à 1'132 fr., avec références à 3% pour le taux hypothécaire et à 155,1 points pour l'indice des prix à la consommation (IPC), base 1983 (recte: décembre 1982). La défenderesse était condamnée à rembourser 5'760 fr. avec intérêts au taux de 5% par an dès le 5 décembre 2006. La banque concernée devait libérer 2'304 fr. sur la garantie constituée par les demandeurs.
Saisie d'un recours de la bailleresse, qui voulait que le loyer initial net de l'appartement soit fixé à 1'900 fr. par mois, et d'un recours joint des locataires, qui requéraient notamment que le loyer initial net du logement soit réduit à 1'015 fr.35 par mois, la Chambre des recours du Tribunal cantonal vaudois, par arrêt du 1er octobre 2008, a jugé, contrairement à l'opinion des premiers juges, que la défenderesse avait fourni un nombre suffisant d'exemples comparatifs pertinents et concluants, aptes à mettre en évidence les loyers usuels dans le quartier ou la localité, de sorte que le loyer convenu entre les parties n'était pas abusif. En conséquence, la cour cantonale a admis le recours principal, rejeté le recours joint et, réformant le jugement du 4 juin 2007, rejeté l'action des locataires.
Les locataires ont interjeté un recours en matière civile au Tribunal fédéral contre cet arrêt. Statuant par arrêt du 24 avril 2009 (affaire 4A_573/2008), le Tribunal fédéral a partiellement admis le recours, annulé l'arrêt de la Chambre des recours et renvoyé la cause au Tribunal cantonal pour nouvelle décision. La juridiction fédérale a considéré qu'elle n'était pas en mesure de se prononcer sur les critiques des locataires, du moment que le Tribunal des baux n'avait pas procédé à une comparaison entre le logement litigieux et les fiches descriptives apportées par la bailleresse et que la cour cantonale s'était bornée à faire état de son « impression d'ensemble »; il se justifiait ainsi d'annuler l'arrêt déféré et d'inviter la cour cantonale à prendre une nouvelle décision devant décrire « de façon précise les comparaisons effectuées pour établir les loyers usuels » ou à retourner la cause au Tribunal des baux, selon le droit cantonal applicable.
B.b Par arrêt de renvoi du 7 octobre 2009, la Chambre des recours a annulé d'office le jugement rendu le 4 juin 2007 par le Tribunal des baux et renvoyé l'affaire à cette autorité pour nouvelle instruction dans le sens des considérants de l'arrêt du Tribunal fédéral.
Au cours de l'audience qui s'est tenue le 17 janvier 2011 devant le Tribunal des baux, lequel avait repris l'instruction, la bailleresse a requis, pour autant que de besoin, la mise en oeuvre d'une expertise ou de visites locales destinées à établir les loyers usuels de la localité ou du quartier sur la base des objets de comparaison qu'elle avait indiqués.
Par jugement du 3 février 2011, dont les motifs ont été communiqués le 23 décembre 2011, le Tribunal des baux a dit que le loyer initial mensuel net dû par les locataires était fixé à 1'323 fr. dès le 15 avril 2006 (I), que la bailleresse devait rembourser aux locataires la somme de 33'177 fr.50 (II) et que la garantie déposée par les locataires, ascendant à 5'700 fr., devait être libérée à hauteur de 1'731 fr. en faveur de ces derniers (III). Le tribunal a tout d'abord constaté qu'il n'était plus contesté que les locataires étaient recevables à s'en prendre au loyer initial en vertu de l'<ref-law>. Il a écarté six des sept éléments de comparaison proposés par la bailleresse pour établir les loyers usuels au sens de l'<ref-law> et laissé la question ouverte pour le dernier appartement (i.e. l'exemple n° 7). Au vu de ce résultat, le tribunal a estimé qu'il ne se justifiait pas de mettre en oeuvre une inspection locale ou une expertise. Retenant que la bailleresse devait supporter les conséquences de l ́échec de la preuve des loyers usuels, il a jugé que le loyer initial convenu était abusif et que le loyer non abusif correspondait au loyer précédent, faute d'éléments conduisant à la fixation du loyer initial à un montant inférieur. Les locataires pouvaient ainsi prétendre à la restitution des montants payés en trop, pour un total de 33'177 fr.50 correspondant à une différence mensuelle de 577 fr. sur chacun des loyers acquittés pendant la période du 15 avril 2006 au 17 janvier 2011, soit 57,5 loyers mensuels. La baisse du loyer initial justifiait une réduction proportionnelle de la garantie locative versée par les locataires au montant de 3'969 fr., représentant trois mois de loyer net, la garantie devant être partiellement libérée à hauteur du montant excédentaire, soit 1'731 fr.
Saisie d'un appel de la bailleresse, qui concluait à ce que le loyer initial mensuel net de l'appartement remis à bail aux locataires soit arrêté à 1'900 fr. par mois dès le 15 avril 2006, avec références à 3% pour le taux hypothécaire et à 154,8 points pour l'IPC, base 1983, « charges d'exploitation égalisées à fin 2005 », la Cour d'appel civile du Tribunal cantonal vaudois, par arrêt du 15 mai 2012, a admis l'appel, réformé le chiffres I du jugement attaqué dans le sens où le loyer initial mensuel net dû par les locataires pour l'appartement a été arrêté à 1'900 fr. dès les 15 avril 2006, avec les références indiquées par la bailleresse, et supprimé les chiffres II et III du jugement, cette décision étant confirmée pour le surplus.
La motivation adoptée par la Cour d'appel civile dans l'arrêt susrappelé peut être résumée comme il suit:
1. Après examen des sept exemples de comparaison apportés par la bailleresse, seuls deux (cotés sous n°s 1 et 7) peuvent être retenus. S'agissant des exemples n°s 4, 5 et 6, il conviendrait de procéder à une inspection locale pour vérifier l'équivalence globale. Toutefois, la question peut rester indécise, étant donné les « conséquences résultant de l'échec de la preuve et de la contre-preuve en matière de loyers comparatifs ». Les locataires n'ont en effet pas allégué des loyers comparatifs plus bas que le leur et se sont bornés à contester les cas avancés par la bailleresse, de sorte qu'il doit être retenu qu'ils n'ont pas non plus, de leur côté, établi le caractère abusif du loyer initial contesté.
2. Lorsque le bailleur et le locataire échouent tous deux dans la preuve qu'ils doivent apporter pour faire aboutir leur prétention, la question de la charge de la preuve doit être résolue pour déterminer quelle partie supporte les risques de carence de la preuve utile.
Tant du côté du preneur que du bailleur, le cadre du litige est celui de l'<ref-law>. Conformément à la doctrine majoritaire, il appartient au locataire de supporter le fardeau de la preuve du caractère abusif du loyer initial convenu. Lorsque le bailleur, dans la formule officielle, invoque l'<ref-law> pour motiver la fixation du loyer initial, il doit contribuer à la contre-preuve de démontrer que le loyer se tient dans les limites usuelles. Pour que la contre-preuve aboutisse, il est seulement exigé que la preuve principale soit affaiblie, mais pas que le juge soit convaincu de l'exactitude de la contre-preuve. L'instruction doit être complète sur la contre-preuve avant que le juge ne statue sur les conséquences d'un éventuel échec de celle-ci. Il n'y a cependant pas de motif de traiter différemment le cas où le locataire a fait d'emblée porter le débat sur les loyers du quartier et celui où le bailleur a invoqué lui-même ce critère, en vertu de l'inversion de la priorité entre les critères absolus de fixation de loyer lorsque l'immeuble a été acquis il y a quelques décennies. Renverser ou affaiblir le fardeau de la preuve incombant au locataire dans cette hypothèse reviendrait à désavantager le propriétaire de longue date. Il suffirait au locataire de rester purement passif pour obtenir que le loyer initial soit arrêté, au pire pour lui, au niveau du précédent loyer, sans devoir établir d'abus de la part du bailleur. Puisque l'<ref-law> constitue une dérogation au principe de la liberté contractuelle, il est conforme au principe général de l'<ref-law> d'exiger de celui qui prétend que son loyer initial est abusif et qui requiert une adaptation du loyer convenu qu'il l'établisse et qu'il subisse ainsi l'échec du fardeau de cette preuve.
Dès l'instant où tant les locataires, dans la preuve du caractère abusif, que la bailleresse dans sa contre-preuve échouent, cette carence des deux parties doit amener, en application de l'<ref-law>, à l'admission de l'appel, si bien qu'il n'y a pas lieu de donner suite à la réquisition d'expertise ou d'inspection locale de la bailleresse. Le loyer initial mensuel net des locataires doit être fixé à 1'900 fr. dès le 15 avril 2006, avec les références à 3% pour le taux hypothécaire et à 154,8 points pour l'IPC, base 1983, « charges d'exploitation égalisées à fin 2005 ». Aucune restitution de loyers payés en trop n'entre en ligne de compte, ni de réduction de la garantie locative fournie par les locataires.
C. H.X._ et F.X._ exercent un recours en matière civile au Tribunal fédéral. Invoquant une violation de l'<ref-law>, les recourants concluent à la réforme de l'arrêt attaqué en ce sens que le jugement rendu le 3 février 2011 par le Tribunal des baux est confirmé.
L'intimée propose le rejet du recours dans la mesure de sa recevabilité.

Considérant en droit:
1. 1.1 Le recours étant dirigé contre une décision finale, la valeur litigieuse doit être déterminée d'après les dernières conclusions prises devant l'autorité précédente (<ref-law>). La divergence que celle-ci devait trancher s'élevait en capital (<ref-law>) à 6'924 fr. par an (22'800 fr. (1'900 fr. x 12) - 15 ́876 fr. (1323 fr. x 12)). En multipliant ce chiffre par vingt (<ref-law>; <ref-ruling> consid. 1 p. 399), la valeur litigieuse de l'espèce dépasse nettement celle de 15'000 fr. qui est requise en matière de droit du bail par l'<ref-law>, de sorte que le recours est recevable ratione valoris.
Interjeté pour le reste par les parties demanderesses qui ont entièrement succombé dans leurs conclusions en réduction du loyer initial convenu et qui ont ainsi la qualité pour recourir (<ref-law>), dirigé contre un arrêt final (<ref-law>) rendu en matière civile (<ref-law>) par un tribunal supérieur statuant sur recours en dernière instance cantonale (<ref-law>), le recours est par principe recevable, puisqu'il a été déposé dans le délai (<ref-law>) et la forme (<ref-law>) prévus par la loi.
1.2 Le recours en matière civile peut être interjeté pour violation du droit fédéral (<ref-law>), y compris le droit constitutionnel (<ref-ruling> consid. 2.1 p. 247; <ref-ruling> consid. 2.4 p. 313). Le Tribunal fédéral applique le droit d'office (<ref-law>). Il n'est pas limité par les arguments soulevés dans le recours ni par la motivation retenue par l'autorité précédente; il peut donc admettre un recours pour d'autres motifs que ceux qui ont été articulés ou, à l'inverse, rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (<ref-ruling> consid. 1.4 p. 317 s.; <ref-ruling> consid. 1.4 et l'arrêt cité). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (<ref-law>), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui (<ref-ruling> consid. 1.3 p. 584; <ref-ruling> consid. 2.2.1 p. 389; <ref-ruling> consid. 1.4). Par exception à la règle selon laquelle il applique le droit d'office, il ne peut entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal que si le grief a été invoqué et motivé de manière précise par la partie recourante (<ref-law>; ATF <ref-ruling> consid. 1.4 in fine).
1.3 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (<ref-law>). Il ne peut s'en écarter que si les constatations factuelles de l'autorité cantonale ont été établies de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire (<ref-ruling> consid. 4.1.2 p. 62; <ref-ruling> consid. 5.1 p. 356) - ou en violation du droit au sens de l'<ref-law> (<ref-law>).
La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (ATF <ref-ruling> consid. 5.1 p. 356; <ref-ruling> consid. 1.2 p. 187). Une rectification de l'état de fait ne peut être demandée que si elle est susceptible d'influer sur le sort de la cause (<ref-law>). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (<ref-law>).
1.4 Le Tribunal fédéral ne peut aller au-delà des conclusions des parties (<ref-law>). Toute conclusion nouvelle est irrecevable (<ref-law>).
S'il admet le recours, le Tribunal fédéral peut statuer lui-même sur le fond ou renvoyer l'affaire à l'autorité précédente pour qu'elle prenne une nouvelle décision (<ref-law>).
2. Les recourants soutiennent que la cour cantonale a arbitrairement retenu que leur logement constituait un cinq pièces. Ils prétendent que l'appartement loué se compose en réalité de quatre pièces et que le contrat de bail contient une indication erronée à ce sujet.
2.1 Les recourants se plaignent d'arbitraire (art. 9 Cst.) dans l'appréciation des preuves et l'établissement des faits, ce qui revient à invoquer une constatation manifestement inexacte des faits (art. 97 al. 1 et 105 al. 2 LTF). Un tel grief doit être motivé conformément aux exigences de l'<ref-law> (<ref-ruling> consid. 4.1.2 p. 62; <ref-ruling> consid. 1.4.3 p. 254 s.).
Il y a arbitraire dans l'appréciation des preuves et l'établissement des faits lorsque le juge n'a manifestement pas compris le sens et la portée d'un moyen de preuve, s'il a omis, sans raison sérieuse, de tenir compte d'un moyen important propre à modifier la décision attaquée ou encore si, sur la base des éléments recueillis, il a fait des déductions insoutenables (<ref-ruling> consid. 4.1.2 p. 62; <ref-ruling> consid. 4.2 p. 560).
2.2 Au considérant 4 de l'arrêt déféré, la Cour d'appel a rappelé que le Tribunal fédéral, dans l'arrêt 4A_573/2008 rendu dans la même affaire, avait retenu que l'appartement loué par les recourants contenait cinq pièces, conformément aux constatations qu'avait effectuées la Chambre des recours, dans son arrêt du 1er octobre 2008, sur la base des propres allégations des locataires étayées par une preuve documentaire.
Au moyen d'une critique purement appellatoire, les recourants tentent de s'en prendre à cette constatation, qui résulte du résultat univoque de l'administration des preuves. Ils y sont irrecevables au regard de l'<ref-law>.
3. Les recourants font valoir que l'on peut déjà déduire implicitement de l'arrêt 4A_573/2008 précité que c'est au bailleur de supporter le fardeau de la preuve des loyers usuels dans le cadre d'une contestation du loyer initial, puisque le Tribunal fédéral a enjoint l'autorité cantonale de compléter l'instruction au sujet des objets de comparaison produits par la bailleresse, alors que les locataires n'ont produit pour leur part aucun élément comparatif. Ils affirment que la question du fardeau de la preuve des loyers usuels doit être résolue de la même façon, que le locataire conteste son loyer initial ou qu'il conteste une hausse de loyer en cours de bail. Or, si le bailleur augmente unilatéralement le loyer pendant le bail, il lui appartient de prouver le bien-fondé de la hausse. Les recourants soutiennent que la preuve des loyers du quartier est impossible à apporter pour les locataires, alors que, de son côté, le bailleur, qui augmente le montant du loyer initial, est supposé avoir au préalable effectué des recherches comparatives pour justifier le nouveau loyer. Il serait dès lors légitime de faire supporter au bailleur le fardeau de la preuve. En effet, si l'on a affaire, comme dans le cas présent, à un immeuble ancien, construit en 1961, un calcul de rendement est impossible, si bien que le bailleur pourrait alors augmenter abusivement le loyer à chaque changement de locataire en se prévalant des loyers usuels, tout en sachant que le locataire ne parviendrait pas à établir les loyers du quartier.
3. Les recourants font valoir que l'on peut déjà déduire implicitement de l'arrêt 4A_573/2008 précité que c'est au bailleur de supporter le fardeau de la preuve des loyers usuels dans le cadre d'une contestation du loyer initial, puisque le Tribunal fédéral a enjoint l'autorité cantonale de compléter l'instruction au sujet des objets de comparaison produits par la bailleresse, alors que les locataires n'ont produit pour leur part aucun élément comparatif. Ils affirment que la question du fardeau de la preuve des loyers usuels doit être résolue de la même façon, que le locataire conteste son loyer initial ou qu'il conteste une hausse de loyer en cours de bail. Or, si le bailleur augmente unilatéralement le loyer pendant le bail, il lui appartient de prouver le bien-fondé de la hausse. Les recourants soutiennent que la preuve des loyers du quartier est impossible à apporter pour les locataires, alors que, de son côté, le bailleur, qui augmente le montant du loyer initial, est supposé avoir au préalable effectué des recherches comparatives pour justifier le nouveau loyer. Il serait dès lors légitime de faire supporter au bailleur le fardeau de la preuve. En effet, si l'on a affaire, comme dans le cas présent, à un immeuble ancien, construit en 1961, un calcul de rendement est impossible, si bien que le bailleur pourrait alors augmenter abusivement le loyer à chaque changement de locataire en se prévalant des loyers usuels, tout en sachant que le locataire ne parviendrait pas à établir les loyers du quartier.
3.1 3.1.1 Il résulte des faits déterminants (<ref-law>) que les parties sont liées depuis le 15 avril 2006 par un contrat de bail à loyer conclu le 17 mars 2006, portant sur un appartement de cinq pièces sis dans un bâtiment construit à l'avenue de ... à Pully.
Le loyer initial a été notifié le 14 mars 2006 par la bailleresse aux locataires au moyen d'une formule officielle. La formule officielle dont il est question ici a pour but d'informer le locataire qu'il a la possibilité de saisir l'autorité de conciliation pour contester le montant du loyer en lui fournissant toutes les indications utiles, exigées par l'<ref-law> (<ref-ruling> consid. 2.3 p. 548). L'usage de la formule officielle lors de la conclusion d'un nouveau contrat de bail d'habitations a été rendu obligatoire par le canton de Vaud sur son territoire, en application de l'<ref-law> (art. 1 et 3 de loi vaudoise du 7 mars 1993 sur l'utilisation d'une formule officielle au changement de locataire (LFOCL, RSV 221.315).
Il n'est plus contesté que les recourants pouvaient invoquer, pour s'en prendre au loyer initial, l'augmentation sensible en rapport avec le loyer versé par le précédent locataire (<ref-law>). En effet, le loyer net payé par les recourants pour l'appartement est supérieur de 43,61% à celui de l'ancien locataire. Or il est de jurisprudence que l'augmentation est sensible si elle excède déjà dix pour cent (<ref-ruling> consid. 3.4 p. 89).
3.1.2 La formule officielle établie le 14 mars 2006 indiquait, conformément à l'<ref-law>, singulièrement le montant du loyer du précédent locataire et celui du nouveau loyer; elle précisait aussi que la hausse du loyer initial reposait sur le critère des loyers usuels instauré par l'<ref-law>. La majoration entrant en ligne de compte n'est donc pas nulle au regard de l'<ref-law>, par renvoi de l'<ref-law>.
La bailleresse a adressé aux locataires, le 27 mars 2006, une seconde formule officielle, qui reprenait le critère des loyers usuels, mais y ajoutait un motif tiré de la réalisation de travaux à plus-value. Cette motivation est nulle, car elle mêle les notions de loyer du marché (<ref-law>) et de loyer fondé sur les coûts (<ref-law>), lesquelles sont antinomiques (cf. <ref-ruling> consid. 3b et 3c).
Il est constant que les recourants ont saisi la commission de conciliation en temps utile (<ref-law>).
L'<ref-law> ne règle que les conditions formelles à la contestation du loyer initial. Les critères matériels permettant de juger du bien-fondé d'une demande de baisse du loyer initial se trouvent aux art. 269 et 269a CO (<ref-ruling> consid. 2 p. 243).
Dans la formule officielle valable de notification du loyer initial, l'intimée s'est prévalue des loyers usuels dans le quartier (<ref-law>) pour justifier la hausse du loyer par rapport à celui payé par le précédent locataire. Selon la jurisprudence, le nouveau locataire peut raisonnablement admettre que seuls les motifs invoqués par le bailleur dans la formule officielle ont entraîné une augmentation du montant de son loyer initial par rapport à celui du précédent loyer. La bonne foi du nouveau locataire mérite d'être protégée (<ref-ruling> consid. 4b p. 367). Ce précédent a été approuvé par la doctrine récente (PETER HEINRICH, in Handkommentar zum Schweizer Privatrecht, 2e éd. 2012, n° 5 ad <ref-law>; PETER R. BURKHALTER/EMMANUELLE MARTINEZ-FAVRE, Le droit suisse du bail à loyer, 2011, adaptation française de la 3e éd. du SVIT Kommentar de RAYMOND BISANG ET AL., n° 28 ad <ref-law> p. 594; DAVID LACHAT, Le bail à loyer, 2009, ch. 2.3.3, p. 394; ROGER WEBER, in Basler Kommentar, Obligationenrecht I, 5e éd. 2011, n° 13 ad <ref-law>; TERCIER/FAVRE, Les contrats spéciaux, 4e éd. 2009, ch. 2644 p. 388). Autrement dit, le bailleur est lié par les facteurs de hausse qu'il a mentionnés sur la formule officielle (immutabilité des motifs invoqués par le bailleur).
Il suit de là que le juge ne saurait examiner l'admissibilité du loyer initial à la lumière d'autres critères que ceux figurant dans la formule officielle, à moins que le locataire ne réclame, de son côté, un tel examen, qui ne peut alors pas lui être refusé (<ref-ruling> consid. 4b p. 367). In casu, il a été retenu que les recourants ne se sont pas prévalus d'un critère différent de calcul du loyer, de sorte que le cadre du débat judiciaire a été fixé par les indications du bailleur figurant sur la formule officielle (valable).
De toute manière, pour les immeubles anciens où il y a impossibilité à établir le rendement excessif faute de connaître les fonds propres entrant dans le calcul du loyer (les pièces comptables n'existent plus ou laissent apparaître des montants qui ne sont plus en phase avec la réalité économique), la hiérarchie des critères absolus est inversée. Ainsi si le loyer initial ne dépasse pas les limites des loyers usuels, il n'est pas considéré comme abusif, sans qu'il se justifie de procéder à un calcul de rendement (arrêt 4A_645/2011 du 27 janvier 2012 consid. 3.2, in SJ 2012 I p. 377; arrêt 4A_276/2011 du 11 octobre 2011 consid. 5.2.3, résumé in Jdt 2012 II p. 113).
Selon la jurisprudence, un immeuble est dit « ancien » s'il a été construit ou acquis il y a plusieurs décennies (arrêt 4A_645/2011 du 27 janvier 2012 déjà cité, consid. 3.3, in SJ 2012 I p. 377; arrêt 4C.323/2001 du 9 avril 2002 consid. 3a in fine, in SJ 2002 I p. 434).
Il a été constaté que le bâtiment dans lequel se trouve l'appartement remis à bail aux recourants a été construit en 1961. L'intimée n'a jamais prétendu avoir acquis récemment cet immeuble. Il s'agit donc manifestement d'un immeuble ancien au sens de la jurisprudence susrappelée.
Par conséquent, en l'espèce, l'ordre de priorité entre les critères absolus de fixation du loyer instauré par l'<ref-ruling> est inversé. En d'autres termes, le loyer initial litigieux doit être déterminé sur la seule base des loyers usuels dans le quartier (<ref-law>).
3.1.3 En cas de contestation du loyer initial, la question de savoir à qui incombe le fardeau de la preuve des loyers usuels dans la localité ou dans le quartier (motif invoqué par le bailleur dans la formule officielle), lorsque le débat judiciaire ne peut sortir de ce cadre en raison de l'ancienneté de l'immeuble, n'a pas encore fait l'objet d'un arrêt de principe publié par le Tribunal fédéral au Recueil officiel (cf. art. 58 al. 1 du Règlement du Tribunal fédéral du 20 novembre 2006 (RS 173.110.131), pris en application de l'<ref-law>).
Dans un arrêt 4A_250/2012 du 28 août 2012 consid. 2.3, cité par l'intimée en p. 5 de sa réponse, le Tribunal fédéral a écrit que le locataire qui conteste le loyer initial doit apporter la preuve des faits permettant de constater le caractère abusif du loyer convenu, notamment par la production de statistiques officielles sur les loyers moyens du quartier. Mais ce précédent se rapporte à un bail commercial pour lequel, contrairement aux baux d'habitations, l'usage de la formule officielle n'est pas requis (<ref-ruling> consid. 3).
3.1.3.1 A teneur de l'<ref-law>, chaque partie doit, si la loi ne prescrit le contraire, prouver les faits qu'elle allègue pour en déduire son droit. Cette règle est considérée comme le principe de base de la répartition du fardeau de la preuve en droit privé. Selon la conception dominante, qui suit la théorie des normes (Normentheorie), il en découle en principe que le rapport existant entre les normes matérielles applicables est déterminant pour la répartition du fardeau de la preuve. Ce rapport détermine de cas en cas si le fait à prouver fait naître un droit (fait générateur), s'il éteint ou modifie un droit (fait destructeur) ou s'il tient en échec cette naissance ou cette extinction (fait dirimant). Celui qui fait valoir une prétention doit établir les faits dont dépend la naissance du droit. En revanche, celui qui invoque la perte d'un droit ou qui conteste sa naissance ou son applicabilité a le fardeau de la preuve des faits destructeurs ou dirimants. Il sied cependant d'observer qu'il s'agit là d'une règle générale (Grundregel) qui, d'une part, peut être renversée par des règles légales concernant le fardeau de la preuve et qui, d'autre part, doit être concrétisée dans le cas d'espèce (<ref-ruling> consid. 3.1 p. 323; <ref-ruling> consid. 2a/aa p. 273; sur la théorie des normes: PAUL-HENRI STEINAUER, Le Titre préliminaire du Code civil, TDPS II/1, 2009, ch. 695 à 702, p. 261 à 264; HANS-PETER WALTER, in Berner Kommentar, 2012, n°s 213-216 et n°s 254 ss ad <ref-law>; SCHMID/LARDELLI, in Basler Kommentar, Zivilgesetzbuch I, 4e éd. 2010, n°s 38 ss ad <ref-law>).
3.1.3.2 La problématique de la répartition du fardeau de la preuve en matière de contestation du loyer initial lorsque l'examen porte sur les loyers comparatifs divise la doctrine en deux courants d'importance inégale.
Un premier courant, largement majoritaire, prône que c'est au locataire qui requiert la diminution du loyer initial d'en prouver le caractère abusif eu égard aux principes instaurés par l'<ref-law> et donc de supporter le fardeau de la preuve des loyers usuels, si le terrain judiciaire se limite à ce cadre (HEINRICH, op. cit, n° 4 ad <ref-law>; PETER R. BURKHALTER/EMMANUELLE MARTINEZ-FAVRE, op. cit., n° 27 ad <ref-law> et n° 47 ad <ref-law>; DAVID LACHAT, in Commentaire romand, Code des obligations I, 2e éd. 2012, n° 7 ad <ref-law>; WEBER, op. cit., n° 8 ad <ref-law>; RICHARD PERMANN, Kommentar zum Mietrecht, 2e éd. 2007, n° 10 ad <ref-law> et n° 8 ad <ref-law>; LACHAT ET AL., Das Mietrecht für die Praxis, 8e éd. 2009, ch. 17/2.3.4, p. 291; LACHAT, [Le bail à loyer], ch. 2.3.3, p. 394; PIERRE ENGEL, Contrats de droit suisse, 2e éd. 2000, ch. 3 de la p. 198; PETER HIGI, Zürcher Kommentar, 1998, n° 79 ad <ref-law>; SÉBASTIEN FETTER, la contestation du loyer initial, 2005, p. 234 ch. 511; ISABELLE SALOMÉ DAÏNA, Le caractère abusif du loyer initial: qui doit prouver quoi ?, CdB 4/2009, p. 99).
Un second courant est d'avis qu'en matière de contestation de la hausse du loyer initial fondée sur les loyers du quartier, il appartient au bailleur, qui s'est prévalu de ce critère dans la formule officielle, d'en apporter la preuve (PATRICIA DIETSCHY, in Droit du bail à loyer, BOHNET/MONTINI [éd.], 2010, n° 63 ad <ref-law> p. 960; JEAN-JACQUES SCHWAAB, La fixation et la contestation du loyer initial, 15e Séminaire sur le droit du bail, Neuchâtel 2008, ch. 153/154 p. 38; TERCIER/FAVRE, op. cit., 4e éd. 2009, ch. 2602 p. 382).
Selon le Message du Conseil fédéral concernant la révision du droit du bail à loyer et du bail à ferme, du 27 mars 1985, le fardeau de la preuve concernant le loyer initial qu'il considère abusif est à la charge du locataire (FF 1985 I p. 1473 in medio).
Il convient de préférer l'opinion dominante pour des raisons dogmatiques déduites de la théorie des normes. En effet, l'abus de droit est un fait dirimant, dont le fardeau de la preuve incombe à la partie adverse du titulaire du droit (STEINAUER, op. cit., ch. 709 et la note de bas de page 165, p. 267; SCHMID/LARDELLI, op. cit., n° 63 ad <ref-law>). Ainsi, en droit du travail, il a été jugé que la preuve du congé abusif incombait au plaideur qui s'en prévalait (<ref-ruling> consid. 4b). Et, en droit du bail, la jurisprudence a posé qu'il appartenait au destinataire du congé de démontrer que celui-ci contrevenait aux règles de la bonne foi (<ref-ruling> consid. 3c in fine).
Il suit de là que le fardeau de la preuve du caractère abusif du loyer initial convenu incombe au locataire quand le bailleur s'est prévalu des loyers usuels, dans la formule officielle, pour justifier la hausse dudit loyer par rapport à celui de l'ancien locataire.
3.1.4 Dans le cas présent, il faut ainsi examiner si les recourants ont apporté la preuve de faits qui permettraient de constater qu'est abusive la différence de quotité entre le loyer initial contesté et celui que versait le précédent locataire du logement.
Il résulte de la formule officielle que l'augmentation par rapport au précédent loyer est massive, puisqu'elle dépasse 43% (cf consid. 3.1.1 ci-dessus).
Or il est notoire que le taux hypothécaire de référence, basé antérieurement sur les taux variables pour les hypothèques des banques cantonales (i.e. la Banque V._ pour le canton de Vaud), puis, depuis 2008, sur le taux hypothécaire moyen des banques publié trimestriellement par le Département fédéral de l'économie (<ref-law>), a amorcé une lente décrue depuis le 1er février 2000, passant de 4,5% à 2.25% à compter du 2 juin 2012. De même, la hausse annuelle des prix à la consommation n'a pas dépassé depuis l'année 2001 le taux de 1,2 %, l'année 2008 étant la seule exception, du reste contrebalancée par l'année 2009 où le taux d'inflation était négatif.
On voit donc que la conjoncture économique actuelle rend injustifiable une pareille hausse de loyer.
Partant, il convient de constater, sur la base des éléments contenus dans le dossier, que la différence de loyer est très certainement abusive.
3.2 A ce stade de l'appréciation des preuves, la bailleresse a le devoir d'apporter des contre-preuves et de démontrer que, malgré les apparences, il s'agit d'un cas exceptionnel et que le loyer initial arrêté par le contrat de bail n'est pas abusif.
En effet, selon les principes généraux tirés des règles de la bonne foi, le bailleur qui n'a pas la charge de la preuve doit collaborer loyalement à l'administration des preuves en fournissant tous les éléments en sa possession, qui sont nécessaires à la vérification du motif qu'il a allégué dans la formule officielle (cf. sur ce devoir en général: <ref-ruling> consid. 4; arrêt 4C.61/2005 du 27 mai 2005 consid. 4.3, in SJ 2006 I p. 34; SCHMID/LARDELLI, op. cit., n° 71 ad <ref-law>). Ce principe résulte déjà de la maxime inquisitoriale sociale prévalant en droit du bail, qui impose à l'autorité de conciliation et au juge de première instance d'établir les faits d'office (art. 274d al. 3 aCO; cf. art. 243 al. 2 let. c et <ref-law>). Cette maxime n'oblige certes pas le juge à instruire d'office le litige lorsqu'un plaideur renonce à expliquer sa position; en revanche, elle le contraint à interroger les parties et à les informer de leur devoir de collaborer à l'instruction et de fournir des preuves. Si des motifs objectifs conduisent le juge à soupçonner que les allégations et offres de preuve d'une partie, locataire ou bailleur, sont lacunaires, il n'est pas lié par l'offre de preuve en question et a le devoir de rechercher lui-même des preuves pour autant qu'il ait connaissance, sur la base des déclarations des parties et/ou du dossier, de l'existence de moyens probatoires pertinents. Le juge peut de même inviter cette partie à compléter ses moyens, par exemple si les documents produits sont insuffisants (arrêt 4A_484/2011 du 2 novembre 2011 consid 2.2, résumé in Jdt 2012 II 114; <ref-ruling> consid. 3.1 p. 80).
Ce devoir du bailleur de collaborer à l'administration des preuves trouve tout son sens dans l'hypothèse où ce dernier, comme en l'espèce, a augmenté le nouveau loyer de plus de 10% par rapport à l'ancien loyer.
3.3 Au vu de ce qui précède, l'intimée était tenue de participer à l'administration des preuves en fournissant au moins cinq éléments de comparaison présentant des caractéristiques semblables à la chose louée (<ref-ruling> consid. 3.1 p. 79 s.; <ref-ruling> consid. 4a p. 319).
La cour cantonale a considéré que, sur les sept éléments comparatifs avancés par la bailleresse, celle-ci n'a présenté que deux éléments répondant aux exigences de l'<ref-law> (exemples n°s 1 et 7). S'agissant des exemples n°s 4, 5 et 6, elle a laissé indécis, vu la solution qu'elle a adoptée, le point de savoir s'ils devaient être admis à la comparaison.
Les recourants prétendent que l'exemple n° 4 doit être écarté vu les avantages qu'il présente par rapport à l'appartement litigieux. A leurs yeux, il devrait en aller de même de l'exemple n° 7, de par sa faible dimension.
La Cour d'appel a dressé, dans la partie « En fait » de l'arrêt déféré (p. 7), un tableau synoptique des caractéristiques détaillées des sept éléments en question et de l'appartement loué aux recourants, accompagné d'une description précise du contenu de toutes les fiches produites par l'intimée.
Le Tribunal fédéral est ainsi en mesure de vérifier lui-même si les exemples de comparaison produits par la bailleresse pouvaient être pris en compte.
3.3.1 Selon l'<ref-law>, les loyers déterminants pour le calcul des loyers usuels dans la localité ou le quartier au sens de l'<ref-law> sont les loyers des logements et des locaux commerciaux comparables à la chose louée quant à l'emplacement, la dimension, l'équipement, l'état et l'année de construction (al. 1), à l'exclusion des loyers résultant de ce qu'un bailleur ou un groupe de bailleurs domine le marché (al. 3). En règle générale, le juge doit disposer de cinq éléments de comparaison au moins. Il lui appartient de procéder à des comparaisons concrètes. L'autorité cantonale de dernière instance indiquera exactement les critères sur lesquels elle s'est fondée. Sur cette base, le Tribunal fédéral contrôle librement si les loyers usuels sont établis conformément au droit fédéral (<ref-ruling> consid. 3.1 p. 80; <ref-ruling> consid. 4a p. 319). Les loyers de référence ne doivent eux-mêmes pas être abusifs, ce qui implique, si nécessaire, de les adapter en principe aux baisses du taux hypothécaire intervenues depuis le moment où ils ont été fixés (<ref-ruling> ibidem; <ref-ruling> consid. 5a p. 412 ss).
3.3.2 Il a été constaté (<ref-law>) que l'objet portant le n° 4 est situé en bordure de forêt, dans un milieu à faible densité de construction, alors que l'appartement des recourants se trouve au bord d'un axe routier important. De plus, d'après le tableau synoptique, cet objet de comparaison dispose d'une terrasse, à savoir d'une plate-forme aménagée à l'un des étages de la maison qui ne fait pas saillie (à la différence d'un balcon), ce qui signifie qu'il s'agit d'un lieu en principe couvert.
Pour tenir lieu d'éléments de comparaison, les logements de référence doivent avoir des avantages analogues, par exemple au niveau de l'environnement, ou, à l'inverse, des nuisances comparables, en ce qui a trait notamment à l'exposition au bruit (arrêt 4A_295/2010 du 26 juillet 2010 consid. 3.2.4; arrêt 4C.265/2000 du 16 janvier 2001, consid. 4b/dd, in SJ 2001 I p. 247).
Il est évident qu'un appartement situé dans un environnement calme, en dehors des voies de passage principales, comme l'est l'objet n° 4, n'est pas comparable, au point de vue de l'emplacement, à un logement construit dans un immeuble exposé au bruit généré par une forte circulation de véhicules motorisés. Cette différence d'exposition aux nuisances sonores exclut à elle seule toute comparaison selon le critère expressément consacré par l'<ref-law>. A cela s'ajoute que disposer d'une terrasse à proximité d'une forêt constitue un avantage indéniable par rapport à un appartement ne bénéficiant pas d'une telle plate-forme. L'exemple n° 4 n'entre pas en considération.
3.3.3 La cour cantonale a admis que l'objet n° 7, bien qu'ayant une dimension inférieure à celle de la chose louée aux recourants, pouvait entrer dans la comparaison, car la limite d'une différence de 20% de surface, retenue par la jurisprudence (<ref-ruling> consid. 3.2.2 p. 82 et l'arrêt cité), n'était pas atteinte. A tort. En effet, il résulte du tableau synoptique de l'arrêt attaqué que l'appartement litigieux a une surface de 110 m2, alors que celle de l'objet n° 7 n'est que de 90 m2. La différence de surface étant de plus de 22%, elle exclut la comparaison. L'objet n° 7 ne devait pas être retenu.
3.4 Au vu de cette analyse, il faut considérer que l'intimée n'a présenté qu'un élément comparatif valable (l'objet n° 1). Même si les exemples n°s 5 et 6 (dont l'admission à la comparaison a été laissée indécise par l'autorité cantonale) devaient être pris en compte, les appartements considérés par le droit du bail comme répondant aux exigences de l'<ref-law> se monteraient à trois. Or ce chiffre est insuffisant pour établir les loyers usuels du quartier.
Partant, la bailleresse n'est pas parvenue à prouver que le loyer initial incriminé restait dans les limites des loyers usuels.
On en reste ainsi à la constatation que, dans la conjoncture actuelle, une augmentation massive du loyer initial par comparaison avec celui que versait le locataire précédent ne saurait se justifier, de sorte que la preuve de l'abus est apportée.
Il s'ensuit que la cour cantonale aurait dû retenir que le loyer litigieux est abusif.
3.5 Il appartient désormais au Tribunal fédéral d'arrêter lui-même le loyer initial.
Les recourants déclarent admettre que leur loyer initial soit fixé à hauteur de celui du locataire précédent, ainsi que l'avait retenu le Tribunal des baux dans son jugement du 3 février 2011.
3.5.1 Lorsqu'il doit fixer le loyer initial, le juge dispose d'une grande marge d'appréciation (<ref-ruling> consid. 2b p. 64; arrêt 4C.274/1997 du 27 avril 1998 consid. 4a, in SJ 1998 p. 718).
Comme on l'a vu, il fallait procéder à la détermination du loyer usuel.
Or les cinq éléments de comparaison, nécessaires pour que soient établis les loyers usuels (cf. <ref-ruling> consid. 3.1 p. 79 s. susmentionné), n'ont pas été apportés au juge. En conséquence, celui-ci ne disposait pas des éléments lui permettant d'arrêter le loyer usuel selon la jurisprudence du Tribunal fédéral.
Il y a donc carence de preuves, alors que le juge doit néanmoins statuer sous peine de commettre un déni de justice.
3.5.2 A défaut de la production par les parties de statistiques officielles, il paraît conforme au droit fédéral de s'en tenir au loyer payé par l'ancien locataire.
Le Tribunal fédéral a déjà dit qu'un tel raisonnement était admissible (arrêt 4A_576/2008 du 19 février 2009 consid. 2.5; arrêt 4C.274/1997 du 27 avril 1998 consid. 4b/aa, in SJ 1998 p. 718).
Il convient donc de fixer le loyer mensuel net de l'appartement remis à bail aux locataires à 1'323 fr. dès le 15 avril 2006.
La différence entre le loyer mensuel net initialement convenu et le loyer mensuel arrêté dans le présent arrêt représente 577 fr. (1'900 fr. - 1'323 fr.). Entre le début du bail, soit le 15 avril 2006, et le jour de la reddition de l'arrêt du Tribunal fédéral, les recourants se sont acquittés, en chiffres ronds, de 80 loyers mensuels. L'intimée devra donc rembourser aux locataires le trop-perçu de loyers, qui atteint la somme de 46'160 fr. (80 x 577 fr.).
Les sûretés ne pouvant pas dépasser en valeur, notamment dans le canton de Vaud, trois mois de loyer net (art. 2 du contrat-cadre romand de baux à loyer entré en vigueur le 1er décembre 2001; cf. LACHAT, [Le bail à loyer], ch. 2.2.2, p. 356), la garantie locative fournie par les recourants doit être réduite à 3'969 fr. (3 x 1'323 fr.).
4. En définitive, le recours doit être admis et l'arrêt attaqué doit être annulé. Il est prononcé que le loyer initial mensuel net des recourants est fixé à 1'323 fr. dès le 15 avril 2006, que l'intimée doit rembourser aux recourants la somme de 46'160 fr. pour les loyers perçus en trop et que les sûretés constituées par les locataires sont réduites à 3'969 fr.
La cause sera renvoyée à l'autorité précédente pour déterminer à nouveau les frais et dépens de la procédure cantonale.
Vu l'issue du litige, les frais judiciaires et les dépens sont mis à la charge de l'intimée, qui succombe (art. 66 al. 1 et 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis, l'arrêt attaqué est annulé et il est prononcé ce qui suit:
I. Le loyer initial mensuel net dû par les recourants F.X._ et H.X._ à l'intimée Z._ SA pour l'appartement de 5 pièces et hall au 3e étage de l'immeuble sis à l'avenue de ... à Pully est fixé à 1'323 fr. dès le 15 avril 2006.
II. L'intimée doit payer aux recourants la somme de 46'160 fr.
III. Le capital de la garantie de loyer de 5'700 fr. constituée auprès de la Banque W._, à Lausanne, est réduit à 3'969 fr. En conséquence, dite garantie est partiellement libérée, à hauteur de 1'731 fr., en faveur des recourants.
2. Les frais judiciaires, arrêtés à 4'000 fr., sont mis à la charge de l'intimée.
3. L'intimée versera aux recourants, créanciers solidaires, une indemnité de 5'000 fr. à titre de dépens.
4. La cause est renvoyée à l'autorité cantonale pour nouvelle décision sur les frais et dépens de la procédure cantonale.
5. Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton de Vaud, Cour d'appel civile.
Lausanne, le 6 décembre 2012
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
Le Greffier: Ramelet