Faits:
A. Depuis octobre 1993, H.X._ loue à Y._ (ci-après: le bailleur) une villa située dans un quartier calme du canton de Genève. Il s'agit d'une importante maison de maître, construite au 18e siècle, comportant 14 pièces réparties sur trois étages plus le sous-sol, ainsi que deux garages. La demeure est agrémentée d'une cour et entourée d'un jardin de 2000 m2.
Conclu pour une durée initiale de cinq ans, le contrat de bail liant les parties se renouvelle depuis 1998 tacitement d'année en année. Le loyer mensuel, charges non comprises, se montait initialement à 11'000 fr. par mois, compte tenu des travaux de réfection pris en charge par le locataire. Depuis le 1er octobre 2004, après deux augmentations successives, il atteint la somme mensuelle de 23'000 fr.
Depuis 1996, F.X._ et H.X._ (ci-après, par souci de simplification: les locataires) se sont plaints à réitérées reprises auprès du bailleur de multiples défauts affectant les locaux loués. Le 14 juin 1996, ils se sont notamment plaints d'infiltrations d'eau dans le toit et du dysfonctionnement de la chaudière (chaufferie). Le 20 mars 1997, le bailleur a invité les locataires à s'adresser à la régie A._ (ci-après: la régie) pour qu'il soit donné suite à cette demande de travaux, en admettant sur le principe que ceux-ci étaient à la charge du bailleur.
Depuis 1998, les rapports entre le bailleur et les locataires se sont dégradés de façon significative.
Par courrier du 17 novembre 2004 (récapitulant les nombreuses lettres envoyées au bailleur les années précédentes), les locataires ont établi une liste des défauts qui, selon eux, affectaient la villa. On peut notamment y lire: infiltrations d'eau résultant de la chute de tuiles; mauvais état de la chaufferie; mauvais état des peintures extérieures, des volets et des ferrures; vétusté du bloc cuisine et absence de fonctionnement du lave-vaisselle dans la cuisine du sous-sol; vétusté du séchoir dans la buanderie; impossibilité d'utilisation des fenêtres côté cour en raison de la rupture des câbles; défaut dans le mécanisme du store de la terrasse du jardin; pièces de parquets affaissées ou abimées; infiltrations d'eau dans la cave du sous-sol en raison d'un défaut du mur de pierre des fondations. Dans ce courrier, les locataires ont mis en demeure le bailleur de procéder aux travaux dans un délai de trente jours en vue d'éliminer tous ces défauts. A défaut, ils menaçaient de consigner leur loyer.
Après que le bailleur a indiqué aux locataires, par courrier du 25 novembre 2004, que le délai imparti se révélait trop court en raison de l'importance des travaux à entreprendre, la régie a émis divers bons de travaux concernant, entre autres, le remplacement des tuiles fissurées ou cassées sur le toit, la réparation des menuiseries extérieures et le parquet. L'intervention au sujet des tuiles cassées a eu lieu au mois de décembre 2004.
Après un échange de correspondances entre les mandataires des parties, les locataires ont consigné l'intégralité de leur loyer dès le mois de février 2005.
B. Le 1er mars 2005, F.X._ et H.X._ ont assigné Y._ en exécution des travaux, en réduction de loyer et en validation de la consignation de loyer.
L'affaire n'ayant pas été conciliée, les locataires ont saisi le Tribunal des baux et loyers du canton de Genève. Ils ont exposé que de nombreux travaux avaient été effectués et ont relevé, se basant notamment sur le constat d'huissier établi le 26 janvier 2006, que les défauts suivants subsistaient: dysfonctionnement de la chaufferie (laquelle était non conforme aux normes en vigueur en raison d'un thermostat défectueux); persistance de problèmes d'étanchéité dans les étages et d'infiltrations d'eau dans les sous-sols (le drain posé ne s'avérant pas suffisamment efficace); peinture non achevée; appareils électroménagers de la cuisine mal posés; tapis et moquettes endommagés; travaux inachevés dans la buanderie. Ils ont également signalé des erreurs commises dans la pose des volets, de sorte que certains ne pouvaient être bloqués.
Le bailleur a exposé que de nombreux défauts considérés comme persistants par les locataires - comme l'état dégradé des volets - relevaient en fait de l'usure normale. Il a précisé que les travaux visant à remédier aux infiltrations d'eau dans les combles et dans une chambre du premier étage avaient pris du retard du fait du comportement des locataires et que les travaux de la chaufferie relevaient de la mise aux normes et non d'un dysfonctionnement.
Un transport sur place a été ordonné par le Tribunal des baux et loyers, huit témoins ont été entendus et une abondante correspondance a été échangée entre les mandataires des parties.
Dans leurs dernières écritures datées du 15 février 2008, les locataires ont conclu à ce que le bailleur soit condamné à remédier aux défauts persistants. A défaut d'exécution dans le délai de trente jours, ils ont conclu à ce que le Tribunal des baux et loyers les autorise à faire procéder eux-mêmes aux travaux aux frais du bailleur. Ils ont sollicité en outre qu'une réduction de loyer leur soit accordée, à savoir: 20% du 21 juillet 2000 au 17 septembre 2003; 30% du 18 septembre 2003 au 16 novembre 2004; 40% du 17 novembre 2004 au 14 juin 2006; 30% du 15 juin 2006 au 28 septembre 2006; 40% dès le 29 septembre 2006 et jusqu'à l'élimination complète des défauts.
Le bailleur a conclu à ce qu'il lui soit donné acte de son engagement à effectuer certains travaux, qu'il soit constaté qu'il a mandaté un cabinet d'architectes pour procéder à l'étude d'autres réparations. Il a conclu au déboutement des locataires pour le surplus et à la levée en sa faveur de la consignation du loyer.
Le Tribunal des baux et loyers a, par jugement du 2 juin 2008, ordonné au bailleur "d'exécuter, dans les règles de l'art, les travaux permettant de remédier aux défauts suivants: dégradation du seuil de la terrasse; encadrement des fenêtres, joints entre les dalles, traces d'humidité dans la cage d'escalier et dans les combles". Il a précisé que ces réparations devaient être exécutées dans les six mois à compter de l'entrée en force du jugement et indiqué qu'à défaut d'exécution dans ce délai, les locataires seront autorisés à remédier eux-mêmes aux défauts en mandatant les entreprises de leur choix, aux frais du bailleur, pour autant que ces frais ne soient pas disproportionnés. Pour tenir compte des défauts ayant affecté l'objet loué depuis 2003, ainsi que des défauts auxquels le bailleur n'avait pas encore remédié, le Tribunal des baux et loyers a réduit le loyer de la villa à raison de 10% du 27 janvier 2003 au 16 novembre 2004, 20% du 17 novembre 2004 au 30 octobre 2005, 10% du 1er novembre 2005 au 31 juillet 2007 et 5% du 1er août 2007 jusqu'à complète exécution des travaux et il a ordonné, en faveur du bailleur, la libération de l'intégralité des loyers consignés.
Statuant sur appel des locataires et appel incident du bailleur, la Chambre d'appel en matière de baux et loyers du canton de Genève a, par arrêt du 5 octobre 2009, annulé le jugement entrepris et condamné le bailleur "à exécuter, dans les règles de l'art, les travaux permettant de remédier aux défauts suivants: les infiltrations d'eau dans la cave et dans les combles, les traces d'humidité dans l'escalier et dans les chambres, le remplacement de la balustrade du balcon, la dégradation du seuil de la terrasse et des joints de celle-ci ainsi que de l'encadrement des fenêtres". Estimant que les réductions décidées par la première instance étaient insuffisantes, l'autorité précédente les a corrigées de la façon suivante: 7,5% du 24 avril 2001 au 16 novembre 2004; 25% du 17 novembre 2004 au 31 octobre 2005; 15% du 1er novembre 2005 au 31 juillet 2007; 10% du 1er août 2007 jusqu'à complète exécution des travaux. Elle a ordonné la libération, en faveur du bailleur, des loyers consignés.
C. Les locataires forment un recours en matière civile au Tribunal fédéral contre l'arrêt du 5 octobre 2009. Ils concluent principalement à ce que le bailleur soit condamné à effectuer les travaux ordonnés dans l'arrêt entrepris dans un délai de six mois à compter du prononcé de la décision du Tribunal fédéral, à ce qu'il soit dit qu'à défaut d'exécution dans ce délai, les locataires seront autorisés à remédier eux-mêmes aux défauts en mandatant les entreprises de leur choix pour procéder à l'exécution des travaux aux frais du bailleur, à ce qu'il soit dit que le loyer est réduit de 20% du 21 juillet 2000 au 16 novembre 2004, de 40% du 17 novembre 2004 au 31 octobre 2005, de 30% du 1er novembre 2005 au 31 juillet 2007, de 20% dès le 1er août 2007 et jusqu'à l'élimination complète des défauts, et à ce que loyers soient déconsignés en leur faveur à due concurrence. Subsidiairement, les recourants concluent à ce qu'ils puissent prouver, par toutes voies de droit utiles, les faits allégués dans leur recours. Ils reprochent à l'autorité précédente d'avoir enfreint les art. 259a, 259b, 259d, 259g CO et d'avoir sombré dans l'arbitraire en appréciant les preuves (art. 9 Cst.).
L'intimé conclut, principalement, à l'irrecevabilité du recours, subsidiairement à son rejet, l'arrêt attaqué devant être confirmé.
Par ordonnance du 8 décembre 2009, la Présidente de la Ire Cour de droit civil a accordé l'effet suspensif au recours.

Considérant en droit:
1. 1.1 Au vu des conclusions restées litigieuses devant la cour précédente, la valeur litigieuse est à l'évidence supérieure à 15'000 fr. (<ref-law>). Interjeté par les locataires qui ont succombé partiellement dans leurs conclusions au fond (<ref-law>) et dirigé contre un arrêt final (<ref-law>) rendu en matière civile (<ref-law>) par une autorité cantonale de dernière instance (<ref-law>; cf. cependant infra consid. 5), le recours est en principe recevable, puisqu'il a été déposé dans le délai (<ref-law>) et la forme (<ref-law>) prévus par la loi.
1.2 Le recours peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>). Il n'est donc limité ni par les arguments soulevés dans le recours, ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (<ref-ruling> consid. 1.1 p. 104). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (<ref-law>), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui (<ref-ruling> consid. 1.1 p. 105).
Le Tribunal fédéral ne peut pas entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal si le grief n'a pas été invoqué et motivé de manière précise par la partie recourante (<ref-law>).
1.3 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (<ref-law>). Il ne peut s'en écarter que si les faits ont été établis de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire (<ref-ruling> consid. 4.3 p. 63) - ou en violation du droit au sens de l'<ref-law> (<ref-law>).
La partie recourante ne peut critiquer les constatations de fait qu'en expliquant de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (<ref-ruling> consid. 1.4 p. 287). En conséquence, il n'est pas possible de prendre en considération l'exposé des faits figurant aux pages 7 à 33 du recours.
1.4 Le Tribunal fédéral ne peut aller au-delà des conclusions des parties (<ref-law>). Toute conclusion nouvelle est irrecevable (<ref-law>). La prohibition des conclusions nouvelles ne fait pas obstacle à la diminution des conclusions prises en dernière instance cantonale (arrêt 4C.171/2000 du 6 décembre 2000 consid. 1d; sous la LTF: Bernard Corboz, Commentaire de la LTF, Berne 2009, no 33 ad <ref-law>). Les conclusions réduites présentées par les recourants - qui ont, globalement, légèrement baissé leurs prétentions en matière de réduction de loyer - devant le Tribunal fédéral sont donc recevables.
2. 2.1 Les recourants considèrent que, pour trois défauts (soit le dysfonctionnement de la chaudière, les infiltrations d'eau dans les pièces et l'état dégradé des volets), les périodes de référence, servant à calculer la réduction de loyer, ont été fixées de façon inexacte par l'autorité précédente. Ils lui reprochent d'avoir violé l'<ref-law> et apprécié les preuves de manière arbitraire (art. 9 Cst.).
2. 2.1 Les recourants considèrent que, pour trois défauts (soit le dysfonctionnement de la chaudière, les infiltrations d'eau dans les pièces et l'état dégradé des volets), les périodes de référence, servant à calculer la réduction de loyer, ont été fixées de façon inexacte par l'autorité précédente. Ils lui reprochent d'avoir violé l'<ref-law> et apprécié les preuves de manière arbitraire (art. 9 Cst.).
2.2 2.2.1 Pour la chaudière et les infiltrations d'eau, la cour cantonale a retenu que l'avis des défauts remontait au courrier des locataires du 3 février 2003. Pour la chaudière, elle a jugé que, même si les travaux visant à remédier au défaut se sont achevés à la mi-juin 2006, c'est à juste titre que le Tribunal des baux et loyers a retenu qu'ils auraient pu l'être au mois d'octobre 2005 et que le report qui a eu lieu à la demande des locataires, pour des motifs personnels, ne saurait être reproché au bailleur. Concernant les infiltrations d'eau dans les pièces, la cour précédente a constaté que les travaux se sont achevés en novembre 2005, mais que ces infiltrations ont toutefois perduré, dans une moindre mesure, postérieurement à cette date.
Les recourants reprochent à la cour cantonale de ne pas avoir constaté que l'avis des défauts avait déjà été effectué dans leur courrier du 14 juin 1996. Ils considèrent que la réponse du bailleur du 20 mars 1997, demandant aux locataires de s'adresser à la régie pour le problème des infiltrations d'eau dans le toit et la défectuosité éventuelle de la chaudière, a fait l'objet d'une appréciation arbitraire par l'autorité précédente. Selon eux, le contenu de ce courrier aurait dû la conduire à retenir que plusieurs réunions avaient eu lieu entre les parties courant 1997 notamment sur les défauts litigieux, ce qui prouve que les recourants s'en étaient effectivement plaints et que le bailleur en avait connaissance entre le 14 juin 1996 et le 3 février 2003.
2.2.2 Selon l'<ref-law>, si le défaut entrave ou restreint l'usage pour lequel la chose a été louée, le locataire peut exiger du bailleur une réduction proportionnelle du loyer à partir du moment où le bailleur a eu connaissance du défaut et jusqu'à l'élimination de ce dernier.
On peut exiger du locataire qui exerce les droits découlant de la garantie des défauts qu'il se comporte conformément aux règles de la bonne foi (<ref-ruling> consid. 5.2 p. 509). En particulier, il doit signaler le défaut sans retard pour permettre au bailleur de prendre les mesures nécessaires afin de réduire son dommage (Bernard Corboz, Les défauts de la chose louée, SJ 1979, p. 134). Le locataire qui adopte un comportement passif qui peut être interprété comme une renonciation tacite à invoquer le défaut contrevient à l'<ref-law> en intentant l'action découlant de l'<ref-law> (<ref-ruling> consid. 5.2 p. 509 s.; Pierre Tercier/Pascal G. Favre, Les contrats spéciaux, 4e éd. 2009, n. 2109 p. 311; cf. 104 II 270 consid. 2 p. 274; cf. Corboz, cité ci-dessus, p. 135). On ne peut reprocher un tel comportement passif à une locataire qui réclame une réduction de loyer, en raison de dysfonctionnement de la climatisation dans les locaux dont elle fait usage, six ans après avoir eu connaissance du défaut (celui-ci étant également connu du bailleur), mais qui s'est plainte à plusieurs reprises et à toutes les périodes de l'année des dysfonctionnements durant la période de six ans (<ref-ruling> consid. 5.2 p. 510).
2.2.3 En l'espèce, la cour cantonale a retenu qu'après avoir informé le bailleur, le 14 juin 1996, du dysfonctionnement de la chaudière et des infiltrations d'eau, les locataires n'ont plus abordé ces questions jusqu'en février 2003, soit pendant presque sept ans. Suite au courrier du bailleur du 20 mars 1997, qui demandait explicitement aux locataires de prendre contact avec la régie afin que celle-ci puisse ordonner les travaux qui se révéleraient nécessaires, les recourants n'ont pas entrepris la moindre démarche pour contacter la régie, ni d'ailleurs exhorter l'intimé à effectuer cette démarche lui-même. Il ressort des constatations cantonales que le comportement des recourants a été très différent en rapport avec d'autres défauts (considérés comme tels par les locataires) entre 1996 et 2003, la cour cantonale ayant en effet retenu qu'ils avaient insisté plusieurs fois auprès du bailleur afin que les travaux y relatifs soient effectués. Cela a par exemple été le cas pour les volets et les fers forgés: après avoir informé le bailleur de l'état de ces derniers, le 21 juillet 2000, les locataires l'ont à nouveau interpellé les 2 octobre et 6 décembre 2000. Enfin, on observera qu'après l'avis formel des défauts du 3 février 2003, les recourants ont alors adopté un comportement actif, revenant à la charge auprès du bailleur le 18 septembre 2003, puis le 17 novembre 2004.
Il ressort ainsi des circonstances particulières du cas d'espèce que l'invocation des défauts était contraire aux règles de la bonne foi. Au vu du nombre d'années écoulées depuis la communication du dysfonctionnement de la chaudière et des infiltrations d'eau (1996), de l'absence totale de réaction des locataires suite au courrier du bailleur de 1997, de la fréquence avec laquelle les recourants ont rappelé au bailleur, entre 1996 et 2003, la nécessité de remédier à d'autres défauts distincts, ainsi que, par la suite, des rappels qui ont suivi l'avis formel envoyé au bailleur le 3 février 2003, il faut en conclure que les inconvénients liés aux "défauts" de la chaudière et des infiltrations d'eau étaient compatibles avec l'usage que les locataires entendaient faire de la chose louée (du moins jusqu'au 3 février 2003) et que ces derniers ont, suite à leur communication de juin 1996 (ou au moins depuis le courrier du bailleur du 20 mars 1997), tacitement renoncé à invoquer ces "défauts".
On ne saurait reprocher à la cour cantonale d'avoir apprécié les preuves, et notamment la pièce invoquée par les recourants (le courrier du 20 mars 1997), de manière arbitraire. D'une part, cette correspondance indique que les divers entretiens tenus entre les parties ont eu lieu globalement "au sujet de la villa", et non spécifiquement en rapport avec les deux défauts litigieux; contrairement à tous les autres points soulevés dans le courrier (construction de la véranda au premier étage, durée du contrat, etc.), il n'est pas mentionné que la question de la chaudière et celle des infiltrations d'eau ont également été discutées "à diverses reprises", si bien qu'il ne ressort pas de façon claire de cette lettre que les entretiens auraient aussi porté spécifiquement sur les points litigieux. D'autre part, à supposer que ces défauts ont effectivement fait l'objet d'un entretien après le 14 juin 1996, l'état de fait ainsi corrigé ne serait pas susceptible d'influer sur le sort de la cause (<ref-law>). En effet, il n'en demeure pas moins que, suite à ce courrier de 1997, le bailleur - qui montrait sa volonté de résoudre les éventuels problèmes - pouvait escompter que les locataires prendraient contact avec la régie, ou au moins qu'ils réagissent, et qu'ils n'attendent pas six ans (soit le 3 février 2003) avant de revenir sur ces problèmes, tout en adoptant une attitude totalement différente en rapport avec d'autres défauts allégués. Le grief d'arbitraire est mal fondé.
2.2.4 S'agissant de la chaudière, les recourants reprochent à la cour précédente d'avoir retenu que les locataires ont eux-mêmes retardé l'exécution des travaux et d'en avoir conclu que ces derniers devaient être considérés comme achevés en octobre 2005 et non à la mi-juin 2006. Ils soutiennent n'avoir fait qu'exercer leurs droits, leur demande de report ayant pour objectif de remplacer la chaudière dans de bonnes conditions afin que les travaux ne portent pas atteinte aux grands crus entreposés dans les caves de la villa. Les recourants n'invoquent toutefois pas expressément le grief de l'arbitraire dans l'appréciation des preuves et l'établissement des faits (art. 9 Cst.). Il est douteux que la critique principale qu'ils soulèvent (selon laquelle la conclusion de la cour cantonale se fonde "sur l'exposé tronqué des faits donné par le bailleur") soit suffisante pour admettre la recevabilité du grief (<ref-law>; cf. arrêt 4A_379/2009 du 21 octobre 2009 consid. 3.2.3). Fût-il recevable, le moyen serait mal fondé. Sur ce point, la cour cantonale reprend, implicitement, les faits retenus dans le jugement de première instance; le Tribunal fédéral doit donc se fonder également sur ceux-ci (<ref-ruling> consid. 1 p. 248, et les références). Il en ressort que le retard dans l'exécution des travaux n'a pas été causé uniquement en raison de l'exigence liée à la préservation des grands crus, mais qu'il est dû également, au moins partiellement, aux travaux (galandage) déjà entrepris par les locataires de manière non conforme dans la cave. Les recourants ne contestent pas ce point. En outre, l'allégation selon laquelle le bailleur aurait volontairement attendu l'hiver pour indiquer qu'il était prêt à remplacer la chaufferie est de nature purement appellatoire. Les exigences des art. 105 al. 2 et 106 al. 2 LTF ne sont à l'évidence pas réalisées (cf. supra consid. 1.2 et 1.3).
Quant aux infiltrations d'eau, les recourants, invoquant l'arbitraire, estiment que la cour cantonale aurait dû retenir que les travaux y relatifs ne se sont pas achevés en novembre 2005, mais en février 2006 et donc que les défauts ont persisté dans la même mesure jusque-là. Le procès-verbal d'huissier du 26 janvier 2006 sur lequel ils s'appuient indique que les traces d'humidité dans la chambre d'enfant au premier étage étaient toujours visibles fin janvier 2006, comme cela avait déjà été constaté deux fois en 2005. Selon les constatations cantonales, les infiltrations d'eau concernaient toutefois également d'autres pièces et le procès-verbal ne donne aucune information sur l'état de ces dernières. En constatant que les travaux se sont achevés en novembre 2005 et que les infiltrations ont ensuite perduré dans une moindre mesure, la cour cantonale a effectué une appréciation globale de l'état de toutes les pièces concernées et le seul document invoqué par les recourants, qui ne se réfère qu'à la chambre d'enfant, ne permet pas de démontrer que cette appréciation globale serait arbitraire. Le grief est infondé.
2.3 Concernant le troisième défaut (volets, y compris la ferronnerie), les recourants font grief à l'autorité cantonale d'avoir exigé d'eux, qui avaient pourtant dûment informé le bailleur de l'état dégradé des bois et ferronneries des volets en 2000, de renouveler l'avis des défauts afin de pouvoir prétendre à une réduction de loyer. Ce moyen repose cependant sur un état de fait qui n'est pas celui qui a été constaté par la cour cantonale. Celle-ci a en effet considéré que les recourants ont certes avisé le bailleur des problèmes rencontrés avec les volets en 2000, mais qu'à cette période ces problèmes résultait d'un phénomène d'usure qui n'a été constitutif d'un défaut qu'une fois atteint un certain degré, ce dont l'intimé n'a eu connaissance qu'à réception de l'avis des défauts du 17 novembre 2004. Les recourants tentent de critiquer cet état de fait en invoquant l'arbitraire dans l'appréciation des preuves. Ils estiment que, sur la base d'un rapport d'architecte établi le 21 juillet 1999, l'autorité précédente aurait dû conclure que, déjà à cette date, l'état des volets ne relevait plus de l'usure. Il ressort de cette pièce que l'état des volets était dégradé, mais non qu'il aurait restreint l'usage des locaux (cf. <ref-law>), hormis pour un volet qui devait être changé. D'ailleurs, l'attitude des recourants est révélatrice à cet égard; ceux-ci n'ont en effet pas accordé beaucoup de crédit au contenu de ce courrier, vu qu'ils ont attendu une année (soit le mois de juillet 2000) pour aviser le bailleur du problème des volets. On ne saurait donc reprocher à l'autorité précédente d'avoir sombré dans l'arbitraire. Quant au volet manifestement défectueux, sa prise en compte dans le calcul de la réduction de loyer n'aurait à l'évidence pas modifié l'appréciation de la cour cantonale, appréciation que le Tribunal fédéral ne peut revoir qu'avec retenue (cf. infra consid. 3.2 et 3.3).
Enfin, les recourants se bornent à renvoyer à une pièce du dossier pour conclure, toujours concernant les volets, que "le défaut a été éliminé le 10 mars 2006", et non le 31 octobre 2005 comme établi par la cour cantonale. Ils n'indiquent ainsi pas de manière précise, dans l'acte de recours lui-même, en quoi les conditions d'une rectification des constatations de fait cantonales seraient réalisées et le grief est donc irrecevable (arrêt 4A_46/2009 du 1er avril 2009 consid. 2.3 et la référence).
On ne saurait dès lors reprocher à la cour cantonale d'avoir fixé, pour chacun des défauts, des périodes de référence inexactes pour calculer les réductions de loyer. Le grief de violation de l'<ref-law> est mal fondé.
3. 3.1 La cour cantonale a fixé les réductions de loyer, comme suit, en distinguant quatre périodes distinctes: 7,5% (du 24 avril 2001 au 16 novembre 2004); 25% (du 17 novembre 2004 au 31 octobre 2005); 15% (du 1er novembre 2005 au 31 juillet 2007); 10% (depuis le 1er août 2007 jusqu'à l'élimination complètes des défauts).
Invoquant une violation de l'<ref-law>, les recourants reprochent à la cour cantonale d'avoir fixé des pourcentages de réduction trop faibles au regard de la casuistique, pour chacune des quatre périodes examinées, la première période devant, selon eux, être étendue (cf. supra consid. 2). A leur avis, les taux suivants auraient dû être retenus: 20% (pour la première période); 40% (pour la deuxième); 30% (pour la troisième) 20% (pour la quatrième).
3.2 La réduction de loyer que peut exiger le locataire en application de l'<ref-law> doit être proportionnelle au défaut et se détermine par rapport à la valeur de l'objet sans défaut. Elle vise à rétablir l'équilibre des prestations entre les parties (<ref-ruling> consid. 11c p. 394). En principe, il convient de procéder selon la méthode dite relative ou proportionnelle, telle qu'elle est pratiquée dans le contrat de vente: la valeur objective de la chose avec défaut est comparée à sa valeur objective sans défaut, le loyer étant ensuite réduit dans la même proportion. Cependant, le calcul proportionnel n'est pas toujours aisé, notamment lorsque, comme en l'espèce, les défauts sont nombreux et affectent l'usage de l'objet loué pendant des périodes différentes, qui se chevauchent néanmoins en partie. Il est alors admis qu'une appréciation en équité, par référence à l'expérience générale de la vie, au bon sens et à la casuistique, n'est pas contraire au droit fédéral (arrêt 4C.527/1996 du 29 mai 1997, in SJ 1997 p. 661, consid. 4a et les références citées; arrêt 4C.97/2003 du 28 octobre 2003 consid. 3.5). Chaque fois qu'une autorité cantonale procède en équité (<ref-law>), le Tribunal fédéral ne substitue pas sa propre appréciation à celle de l'instance inférieure; il n'intervient que si celle-ci a abusé de son pouvoir d'appréciation, c'est-à-dire si elle a retenu des critères inappropriés, si la décision rendue aboutit à un résultat manifestement injuste ou à une iniquité choquante (<ref-ruling> consid. 2, 715 consid. 4.4; <ref-ruling> consid. 4).
3.3 En l'espèce, la cour cantonale a estimé qu'une réduction globale de 7,5% se justifiait pour la première période examinée, pour tenir compte du premier défaut signalé le 24 avril 2001 (bloc cuisine vétuste) et des deux autres annoncés le 3 février 2003 (défectuosité de la chaudière et infiltrations d'eau dans les pièces).
Les recourants ont échoué dans leur tentative de démontrer que trois défauts (dysfonctionnement de la chaudière, infiltrations d'eau, défectuosité des volets) devaient être pris en compte sur une période plus étendue que celle retenue dans l'arrêt cantonal, en particulier avant avril 2001 (cf. supra consid. 2). Le pourcentage de réduction retenu par l'autorité précédente ne peut ainsi être remis en question, comme ils le prétendent, sur la base de cet argument.
C'est à tort que les recourants soutiennent que la cour cantonale a fixé à 7,5% la réduction de loyer pour le seul problème du bloc cuisine. Il ressort expressément de l'arrêt entrepris que ce pourcentage représente une réduction moyenne pour l'ensemble de la période (soit d'avril 2001 à novembre 2004). En soi, cette moyenne de 7,5% permet de tenir compte d'une réduction légèrement inférieure à 5%, du 24 avril 2001 au 2 février 2003, pour la vétusté du bloc cuisine du sous-sol (qui semblait avant tout nécessiter, selon les constatations cantonales, le remplacement du plan de cuisson) et de fixer un taux de réduction proche de 10%, du 3 février 2003 au 16 novembre 2004, pour les infiltrations d'eau dans les pièces. Comparées aux données casuistiques, ces réductions ne paraissent pas inéquitables (pour les données casuistiques, cf. Richard Permann, Mietrecht Kommentar, 2e éd. 2007, no 6 ad <ref-law>; Martin Züst, Kasuistik zur Mietzinsherabsetzung bei Mängeln, Mietrechtspraxis [mp] 2/04 p. 69 ss; David Lachat, Le bail à loyer, 2008, p. 220 ss), étant précisé que le pourcentage de réduction qu'il s'agit d'ajouter en raison du défaut affectant la chaudière est très faible, donc ici pas significatif, l'autorité cantonale ayant certes retenu que celle-ci n'était pas conforme aux normes, sans toutefois constater que le défaut aurait pour conséquence un chauffage insuffisant dans les pièces de la villa et donc pour effet de réduire de façon effective l'usage de l'objet loué. Ainsi, la moyenne retenue par la cour cantonale pour l'ensemble de cette première période est certes relativement faible, mais on ne voit pas que le résultat soit inéquitable et que la réduction prononcée soit hors de proportion avec les défauts constatés.
C'est à tort que les recourants soutiennent que la cour cantonale a fixé à 7,5% la réduction de loyer pour le seul problème du bloc cuisine. Il ressort expressément de l'arrêt entrepris que ce pourcentage représente une réduction moyenne pour l'ensemble de la période (soit d'avril 2001 à novembre 2004). En soi, cette moyenne de 7,5% permet de tenir compte d'une réduction légèrement inférieure à 5%, du 24 avril 2001 au 2 février 2003, pour la vétusté du bloc cuisine du sous-sol (qui semblait avant tout nécessiter, selon les constatations cantonales, le remplacement du plan de cuisson) et de fixer un taux de réduction proche de 10%, du 3 février 2003 au 16 novembre 2004, pour les infiltrations d'eau dans les pièces. Comparées aux données casuistiques, ces réductions ne paraissent pas inéquitables (pour les données casuistiques, cf. Richard Permann, Mietrecht Kommentar, 2e éd. 2007, no 6 ad <ref-law>; Martin Züst, Kasuistik zur Mietzinsherabsetzung bei Mängeln, Mietrechtspraxis [mp] 2/04 p. 69 ss; David Lachat, Le bail à loyer, 2008, p. 220 ss), étant précisé que le pourcentage de réduction qu'il s'agit d'ajouter en raison du défaut affectant la chaudière est très faible, donc ici pas significatif, l'autorité cantonale ayant certes retenu que celle-ci n'était pas conforme aux normes, sans toutefois constater que le défaut aurait pour conséquence un chauffage insuffisant dans les pièces de la villa et donc pour effet de réduire de façon effective l'usage de l'objet loué. Ainsi, la moyenne retenue par la cour cantonale pour l'ensemble de cette première période est certes relativement faible, mais on ne voit pas que le résultat soit inéquitable et que la réduction prononcée soit hors de proportion avec les défauts constatés.
3.4 3.4.1 Pour la deuxième période, la cour cantonale a jugé qu'une réduction globale de 25% devait être accordée en raison des nombreux défauts constatés, soit la défectuosité de la chaudière, des infiltrations d'eau dans les pièces, dans la cave, les défauts relatifs aux volets, au bloc cuisine, au séchoir et au lave-vaisselle, aux stores du jardin, aux parquets, ainsi qu'aux fenêtres à guillotine.
Les recourants estiment que l'autorité précédente aurait dû retenir une réduction de 40% pour cette période. Pour parvenir à ce résultat, ils additionnent, pour toute la période, les pourcentages de réduction relatifs à chacun des défauts qu'ils estiment appropriés, soit 10% pour le manque d'étanchéité dans la cave, 10% pour les défectuosités du séchoir et du lave-vaisselle et 20% pour divers autres défauts (problèmes de chaudière, infiltrations d'eau dans les pièces, bloc cuisine défectueux, volets dégradés, problèmes des stores du jardin, du parquet et des fenêtres à guillotine).
3.4.2 Les recourants perdent de vue que la réduction de loyer de 25% retenue par la cour cantonale représente une moyenne, pour tous les défauts, sur l'ensemble de la seconde période considérée. Or, certains défauts ont été éliminés au cours de la période et non seulement à son terme. C'est le cas des défauts relatifs au séchoir et au lave-vaisselle (10 mars 2005), au bloc cuisine (15 mars 2005), aux fenêtres à guillotine (3 mai 2005), aux stores du jardin et aux parquets (15 juillet 2005), ainsi qu'à la chaudière (30 septembre 2005).
Les défauts les plus importants, toujours présents à la fin de cette deuxième période, sont les infiltrations d'eau dans les pièces (cf. déjà supra consid. 3.3) et les infiltrations d'eau dans la cave. Concernant ces dernières, les recourants rappellent que, dans la casuistique présentée par la cour cantonale (il s'agit d'une décision du 16 octobre 1995 de la Cour de justice du canton de Genève, mentionnée également par Züst, op. cit., p. 72), une réduction de 10% a été accordée pour le seul problème de manque d'étanchéité dans une cave. Ils oublient de préciser que, dans le précédent de la Cour de justice, plusieurs objets ont été endommagés dans la cave, ce qui révélait une infiltration d'une certaine importance, ce qui n'a pas été établi dans le cas d'espèce.
Il n'appartient pas au Tribunal fédéral de substituer sa propre appréciation à celle de l'autorité inférieure (cf. supra consid. 3.2). Une réduction moyenne proche de 20% pour les infiltrations d'eau dans les pièces (cf. supra consid. 3.3), les infiltrations dans la cave (cf. remarque paragraphe précédent) et d'autres défauts beaucoup moins importants (et ne s'étendant pas sur l'ensemble de la période) comme les défectuosités des fenêtres à guillotine, des stores du jardin, des parquets et des volets ne paraît en tout cas pas inéquitable au regard de la casuistique. Il faut encore préciser que les défectuosités restantes ne nécessitent, selon les constatations cantonales, qu'une réduction très faible. C'est le cas des problèmes de chaudière (cf. supra consid. 3.3), auxquels il a été remédié avant la fin de la deuxième période (30 septembre 2005), de la vétusté du bloc cuisine (cf. supra consid. 3.3), ce dernier défaut affectant par ailleurs l'usage de la villa uniquement durant le tiers de la deuxième période. Il en va de même des défauts relatifs au séchoir et au lave-vaisselle (présents uniquement durant le tiers de la période considérée) qui n'affectent à l'évidence, contrairement à l'opinion des recourants, pas dans la même mesure l'usage de l'objet loué que des défectuosités du frigo et de la cuisinière (casuistique rappelée par les recourants) (cf. Züst, op. cit., p. 75). Pour l'ensemble des défauts, une réduction moyenne de 25% n'apparait donc pas inéquitable.
3.4.3 Les recourants font grief à la cour cantonale d'avoir totalement omis de prendre en compte dans son appréciation les nuisances provenant des travaux causées durant de nombreux mois aux locataires, incommodés par la présence d'ouvriers, leur va-et-vient dans l'immeuble, la perte d'intimité, le bruit et la poussière inhérente à ces travaux. Il s'agit là de questions de fait. Or, les recourants ne prétendent pas avoir - en temps utile et selon les règles du droit cantonal de procédure - allégué et offert en preuve l'existence, la durée et l'importance de ces nuisances. Même dans le cadre de la maxime inquisitoriale sociale (<ref-law>), les locataires ne sont pas libérés de leur devoir de participer à l'établissement des faits (cf. arrêt 4C.11/2006 du 1er mai 2006 consid. 2.2; Hans bättig, Herabsetzung des Mietzins wegen Mängeln - Substanzierung- und Beweislast, MRA 1/07 p. 41 s.). Il n'est donc pas possible d'entrer en matière sur un argument, énoncé de façon générale par les recourants, qui repose sur des points de fait dont on ne trouve aucune trace dans les constatations cantonales qui lient le Tribunal fédéral (<ref-law>).
Enfin, les recourants prétendent qu'une réduction de 40% s'imposait également en raison du montant du loyer et du lieu de situation de l'immeuble. Ces deux critères peuvent, entre autres, être pris en considération pour déterminer si la chose louée est affectée d'un défaut (cf. arrêt 4C.81/1997 du 26 janvier 1998 consid. 3b/bb; David Lachat, Le bail à loyer, 2008, p. 217). En l'espèce, pour la deuxième période considérée, l'existence des défauts n'est pas contestée et les recourants n'expliquent pas en quoi le caractère luxueux de l'objet loué aurait une influence sur le calcul de la réduction de loyer. S'agissant du lieu de situation de l'immeuble, on ne discerne pas en quoi la situation avantageuse de la villa aurait une influence sur le calcul de la réduction liée à son état défectueux (infiltrations d'eau, etc.) et les recourants ne présentent aucune motivation permettant de le comprendre. Les arguments soulevés ne permettent donc pas de remettre en question l'appréciation effectuée par la cour cantonale.
3.5 Pour la troisième période examinée, l'autorité précédente a fixé la réduction de loyer à 15% en raison des divers défauts éliminés au plus tard à la fin du mois d'octobre 2005. Elle a retenu que les défauts suivants subsistaient: infiltrations d'eau dans la cave et dans les combles, traces d'humidité dans l'escalier et dans les chambres, défectuosité de la balustrade, de la buanderie, du seuil et des joints de la terrasse, ainsi que des encadrements de fenêtres et de la toile de tente, traces de brûlures.
Les recourants sont d'avis que la cour cantonale aurait dû retenir une réduction d'au moins 30% pour l'ensemble de la période, afin de tenir compte des infiltrations d'eau dans la cave (10%), dans les combles, dans l'escalier et dans les chambres (10%). En plus, ils estiment que les nombreux autres défauts constatés durant cette période donnent droit, ensemble, à une réduction de 15%.
Une nouvelle fois, les recourants perdent de vue que la réduction de loyer de 15% accordée par l'autorité précédente représente une moyenne sur l'ensemble de la troisième période. Certains défauts ont été éliminés déjà au cours de cette période, et non seulement à son terme; c'est le cas des défauts relatifs à la buanderie (28 février 2006), aux traces de brûlures (6 juillet 2006) et à la toile de tente (14 novembre 2006). D'autres défauts sont apparus postérieurement au début de cette troisième période; il en va ainsi des traces de brûlures (27 janvier 2006), des défauts relatifs à la balustrade (7 mars 2006), au seuil et aux joints de la terrasse et aux encadrements de fenêtre (29 septembre 2006), ainsi que du défaut relatif à la toile de tente (29 septembre 2006). Il faut en outre rappeler que de nombreux défauts constatés au cours de la deuxième période (cf. supra consid. 3.4), qui justifiaient une réduction de 25%, ont été éliminés avant le début de la troisième période. C'est le cas en particulier des défauts relatifs aux volets, aux stores de jardin et aux parquets, aux fenêtres à guillotine et (même si la réduction est très faible) au bloc cuisine, ainsi qu'à la chaudière. Etant souligné que les infiltrations d'eau dans les pièces ne subsistent, depuis le 30 novembre 2005 (soit seulement un mois après le début de la troisième période), que dans une moindre mesure, on ne saurait reprocher à la cour cantonale d'avoir abusé de son pouvoir d'appréciation en ramenant à 15% la réduction de loyer pour la troisième période.
3.6 Pour la quatrième période examinée, la cour cantonale a fixé une réduction de loyer de 10% jusqu'à l'élimination des défauts subsistant encore à ce jour, soit les infiltrations d'eau dans la cave et les combles, les traces d'humidité dans l'escalier et dans les chambres, le défaut lié à la balustrade du balcon et à l'encadrement des fenêtres, la dégradation du seuil de la terrasse et des joints de celle-ci.
Les recourants sont d'avis que, pour cette période, l'autorité cantonale devait retenir une réduction de 20%.
Eu égard aux réductions accordées pour les deuxième et troisième périodes, on ne saurait reprocher à la cour cantonale d'avoir retenu un taux de réduction de 10%, dès lors qu'elle a établi que les deux défauts principaux ayant affecté l'objet loué (soit les infiltrations d'eau dans les pièces et la cave) ne persistent que dans une moindre mesure durant toute la quatrième période.
Quant à l'attitude du bailleur qui aurait, selon les recourants, violé par trois fois les engagements pris envers ces derniers et le Tribunal des baux et loyers de remédier aux défauts, elle ne peut constituer un argument pour augmenter la réduction de loyer. On ne voit en effet pas en quoi elle aurait une influence sur celle-ci et les recourants ne tente même pas de le démontrer.
Le grief de violation de l'<ref-law> est donc infondé.
4. 4.1 A l'instar du Tribunal des baux et loyers, la cour cantonale a jugé que, vu le nombre de défauts énumérés dans l'avis du 17 novembre 2004 et leur importance, un délai de trente jours pour y remédier était à l'évidence trop court et que l'on ne pouvait considérer d'emblée que la fixation d'un délai serait sans effet. Observant qu'une des conditions de la consignation n'était pas réalisée, elle a ordonné la libération en faveur du bailleur des loyers consignés à ce jour.
4.2 Aux termes de l'<ref-law>, le locataire d'un immeuble qui exige la réparation d'un défaut doit fixer par écrit au bailleur un délai raisonnable à cet effet; il peut lui signifier qu'à défaut de réparation dans ce délai, il consignera auprès d'un office désigné par le canton les loyers à échoir. Le locataire avisera par écrit le bailleur de son intention de consigner les loyers. Cette disposition subordonne la validité formelle de la consignation à l'observation des deux conditions cumulatives suivantes: d'une part, le locataire doit demander au bailleur de réparer le défaut, en lui impartissant par écrit un délai raisonnable pour le faire; d'autre part, il doit le menacer par écrit de consigner le loyer, si le défaut n'est pas réparé dans le délai imparti (arrêt 4C.264/2003 du 3 décembre 2003 consid. 3.1 et les références citées).
Si le bailleur estime le délai trop court pour remédier aux défauts, il lui incombe alors de l'indiquer au locataire et d'entreprendre les travaux dans un délai considéré comme raisonnable (David Lachat, La consignation du loyer, Art. 259g à 259i CO, Lausanne 1993, p. 12; Martin Züst, Die Mängelrechte des Mieters von Wohn- und Geschäftsräumen, thèse St-Gall 1992, p. 154; Renate Wey, La consignation du loyer, Étude des art. 259g-i nCO, thèse Lausanne 1994, p. 79; cf. <ref-ruling> consid. 2a p. 440). La consignation est cependant exclue lorsqu'il devait être reconnaissable pour le locataire que le délai imparti au bailleur était inapproprié pour remédier aux défauts (Roger Weber, Basler Kommentar, OR I, 4e éd. 2007, no 6 ad <ref-law> et les références citées; Richard Permann, Mietrecht Kommentar, 2e éd. 2007, no 10 ad <ref-law>; Peter Zihlmann, Das Mietrecht, 2e éd. 1995, p. 79; Wey, op. cit., p. 79; Hangartner/David, Das neue mietrecht, 1991, p. 79; citant expressément l'<ref-law>: Peter Higi, Zürcher Kommentar, OR, no 28 ad <ref-law>).
Lorsqu'il apparaît à l'évidence que les démarches seront sans effet, le locataire peut se dispenser d'impartir au bailleur un délai raisonnable pour réparer le défaut et de le menacer de consigner le loyer (<ref-law>; arrêt 4C.264/2003 du 3 décembre 2003 consid. 3.1). Selon les règles de la bonne foi, la fixation d'un délai, comme l'interpellation formelle prévue pour la mise en demeure, apparaît superflue lorsque le débiteur a clairement manifesté, par son comportement, sa ferme intention de ne pas accomplir son obligation (<ref-ruling>). Il faut que le refus du débiteur de s'exécuter apparaisse clair et définitif (<ref-ruling>). C'est au créancier qu'il incombe d'établir les faits permettant de conclure à l'inutilité de la fixation d'un délai, au sens de l'<ref-law> (Rolf H. Weber, Berner Kommentar, no 69 ad <ref-law>). En matière de consignation, le fardeau de la preuve est supporté par le locataire qui entend faire l'économie des démarches formelles prescrites par l'<ref-law> (arrêt 4C.264/2003 du 3 décembre 2003 consid. 3.2.1).
4.3 Les recourants expliquent qu'ils ont avisé le bailleur de multiples défauts entre le 7 mars 1994 et le 18 septembre 2003 (défauts récapitulés dans le courrier du 17 novembre 2004) et que celui-ci n'a alors pris aucune mesure pour les éliminer. Ils lui reprochent de n'avoir pas fait diligence dans le délai de trente jours fixé dans le courrier du 17 novembre 2004. Ils sont d'avis qu'il importe peu que le bailleur ait délivré des bons ou sollicité des devis, mais que seule l'élimination des défauts était pertinente. Ils en concluent qu'ils auraient très bien pu se dispenser de fixer un délai pour l'exécution des travaux et que, dès lors, la cour cantonale a violé le droit fédéral en jugeant qu'une des conditions de la consignation faisait défaut.
La cour cantonale a constaté que le délai de trente jours était à l'évidence trop court pour permettre au bailleur de remédier aux défauts mentionnés dans le courrier du 17 novembre 2004. Au regard des défauts (pas moins de quinze, pour certains relativement importants) énumérés, ce constat est indiscutable. Les recourants ne prétendent d'ailleurs pas que l'intimé aurait pu remédier à l'ensemble des défauts dans ce bref délai, mais laissent entendre qu'il "aurait été aisé pour le bailleur d'entreprendre les travaux les plus simples dans le délai imparti". Il n'est ainsi pas douteux que les recourants ont fixé ce bref délai tout en sachant que le bailleur avait besoin de beaucoup plus de temps pour remédier à tous les défauts. La consignation n'est dès lors pas valable, les recourants ayant fixé un délai inapproprié au bailleur.
En définitive, les recourants ont agi comme s'ils pouvaient se dispenser d'impartir un délai raisonnable au bailleur. Il reste donc à examiner si la fixation d'un délai apparaissait superflue. En l'occurrence, l'argument central des recourants tombe à faux. La cour cantonale a certes retenu que les locataires avaient informé le bailleur de divers problèmes depuis 1996, mais, pour la plupart d'entre eux, elle n'a pas considéré qu'il s'agissait d'avis de défauts. Avant le courrier du 17 novembre 2004, les seuls avis de défauts valables portaient sur le bloc cuisine, la chaudière et les infiltrations d'eau (cf. supra consid. 2). Pour les deux derniers défauts, le bailleur a réagi, invitant les locataires à s'adresser à la régie pour qu'il soit donné suite à leur demande de travaux, en admettant sur le principe que ceux-ci étaient à sa charge. Les locataires n'ont alors pas donné suite à ce courrier (cf. supra consid. 2.2.3). Il faut encore préciser qu'aucune menace de consignation n'a été communiquée au bailleur avant le courrier du 17 novembre 2004. En outre, à la réception de ce dernier, la régie, avertie par le bailleur, a mandaté, au plus tard le 8 décembre 2004, deux entreprises en vue de remédier à des défauts, un rendez-vous de chantier ayant été fixé le 17 décembre 2004. Il importe peu qu'il n'ait pas été remédié aux défauts de le délai de trente jours ou que le bailleur n'ait pas agi rapidement; on ne saurait en tout cas pas dire que le refus du bailleur de s'exécuter apparaissait clair et définitif, si bien que les locataires ne pouvaient se dispenser de lui impartir un délai raisonnable.
Le grief se révèle dès lors infondé.
5. 5.1 Enfin, les recourants mettent en évidence que le Tribunal des baux et loyers a jugé qu'à défaut d'exécution des travaux par le bailleur dans le délai de six mois, les locataires seront autorisés à remédier eux-mêmes aux défauts en mandatant les entreprises de leur choix, aux frais du bailleur, pour autant que ces frais ne soient pas disproportionnés. Ils observent que la cour cantonale, bien qu'ayant confirmé - dans les considérants de son arrêt - que le délai de six mois fixé par la première instance était raisonnable, a omis de reprendre ce point dans le dispositif de l'arrêt. Ils invoquent une violation des art. 259a et 259b CO.
5.2 On ne voit pas en quoi l'omission de la cour cantonale, reconnue également par l'intimé, violerait les art. 259a et 259b CO et les recourants ne le démontrent nullement. Il faut plutôt observer que l'autorité précédente a simplement omis d'apporter une précision dans le dispositif de l'arrêt et qu'il existe une différence entre le contenu du dispositif et les considérants.
Basée sur l'<ref-law>/GE, la Cour de justice du canton de Genève, en s'inspirant notamment du droit fédéral (art. 145 a OJ), a admis que la voie de l'interprétation était ouverte pour résoudre une contradiction entre les motifs de la décision et le dispositif. Elle a eu l'occasion de juger que cela est le cas lorsque l'autorité cantonale omet d'intégrer dans le dispositif de son arrêt un point sur lequel elle s'est pourtant prononcée dans les considérants y relatifs (SJ 2000 I 315 consid. 5; Bertossa/Gaillard/Guyet/Schmidt, Commentaire de la loi de procédure civile genevoise, n. 3 ad <ref-law>/GE). Le moyen - de droit cantonal s'agissant d'une décision cantonale - de l'interprétation devant être saisi préalablement à celui du recours en matière civile (<ref-law>; cf. arrêt 5P.428/2001 du 10 juillet 2003, consid. 3.4.2), le recours n'est pas recevable sur le point litigieux.
6. Il résulte des considérants qui précèdent que le recours, mal fondé, doit être rejeté dans la mesure où il est recevable.
Les frais judiciaires et les dépens sont mis à la charge des recourants, qui succombent (art. 66 al. 1 et 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 6'500 fr., sont mis solidairement à la charge des recourants.
3. Les recourants verseront solidairement à l'intimé une indemnité de 7'500 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux parties et à la Chambre d'appel en matière de baux et loyers du canton de Genève.
Lausanne, le 21 janvier 2010
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Le Greffier:
Klett Piaget