Faits:
A. Depuis le 8 mars 2004, suite à un transfert de bail, H.X._ et F.X._ louent des locaux commerciaux à la Ville de Genève. Le bail porte sur un local d'environ 73 m2 au rez-de-chaussée et un autre d'environ 35 m2 au sous-sol d'un immeuble situé à Genève. Le loyer a été fixé à 19'224 fr. par année, charges non comprises.
H.X._ et F.X._ sont propriétaires du fonds de commerce du café-restaurant "...", exploité dans les locaux commerciaux.
Par un contrat conclu le 23 mars 2006, ils ont remis en gérance l'établissement "..." à Y._ (ci-après: la gérante) à compter du 1er mai 2006. La durée de la gérance a été fixée à l'art. 2 du contrat:
"[Elle] est fixée pour une durée d'une année commençant le 1er mai 2006 et terminant le 30 avril 2007. Sauf avis contraire signifié à l'autre partie au plus tard 6 mois avant l'échéance, par lettre recommandée, le contrat sera reconduit d'année en année aux mêmes clauses et conditions ce, jusqu'à un total de 5 années".
Selon l'art. 3 de la convention, la gérante s'est engagée à payer à H.X._ et F.X._, par mois d'avance, une indemnité mensuelle de 4'175 fr. (montant comprenant le loyer avec charges, la gérance et le garage).
Enfin, l'art. 4 du contrat prévoit ce qui suit:
"(...) pour l'obtention de l'exploitation du fonds de commerce un montant de 101'000 fr. est versé par le gérant au cédant, à la remise des clés. La différence pour avoir accès au bail est de 129'999 fr. Le gérant pourra en tout temps verser des acomptes" (al. 1).
Le paiement du loyer-gérance se fera au plus tard le 5 du mois en cours. En cas de retard dans le paiement d'une quelconque indemnité mensuelle, le cédant pourra fixer au gérant un délai de 60 jours et lui signifiera qu'à défaut de paiement dans ce délai, il sera en droit de résilier la présente convention et le montant susmentionné de 101'000 fr. et les éventuels acomptes resteront en mains du cédant pour dédommagement" (al. 2).
Par courrier du 30 novembre 2006, le mandataire de l'époque de la gérante a indiqué à H.X._ et F.X._ que sa cliente souhaitait acquérir la totalité du fonds de commerce et qu'elle avait versé, le 5 mai 2006, la somme de 179'900 fr.; la gérante sollicitait le transfert de bail en sa faveur.
Le 6 décembre 2006, la fiduciaire de H.X._ et F.X._ a répondu au mandataire de la gérante que celle-ci n'avait rien versé et qu'elle devait toujours à H.X._ et F.X._ un montant de 18'262 fr. sur la base d'une reconnaissance de dette du 22 juin 2006.
Dès le mois de mars 2007, la gérante a cessé le paiement de l'indemnité mensuelle prévue par le contrat.
Par pli recommandé du 4 mai 2007, le conseil de H.X._ et F.X._ a mis en demeure la gérante de verser à ses clients, avant le 15 juillet 2007, la somme de 16'700 fr., à titre d'indemnités des mois de juin et de mars à mai 2007. Le courrier précisait:
"Si vous ne vous conformez pas à cette injonction, Monsieur H.X._ et Madame F.X._ feront application de l'alinéa 2 de l'article 4 du contrat de bail".
Par avis officiel du 16 juillet 2007, H.X._ et F.X._ ont résilié le contrat les liant à la gérante pour le 31 août 2007, en raison du non-paiement de l'indemnité mensuelle.
Le 20 juin 2007, la gérante a versé 1'200 fr. à H.X._ et F.X._, et le même montant le 6 juillet 2007. Elle a également versé 14'400 fr. le 23 juillet 2007.
B. La gérante a contesté le congé donné le 16 juillet 2007. La tentative de conciliation devant la Commission de conciliation en matière de baux et loyers ayant échoué, elle a introduit, le 12 décembre 2007, une requête en contestation du congé auprès du Tribunal des baux et loyers du canton de Genève.
De leur côté, H.X._ et F.X._ ont sollicité l'évacuation de la gérante des locaux non libérés par elle à l'issue de la résiliation de bail. La tentative de conciliation s'étant soldée par un échec, ils ont saisi, le 5 mars 2008, le Tribunal des baux et loyers du canton de Genève de leur requête.
Ayant ordonné la jonction des causes, le Tribunal des baux et loyers a, par jugement du 18 février 2009, constaté la validité du congé, condamné la gérante à évacuer immédiatement les locaux commerciaux, mis à sa charge les débours et débouté les parties de toutes autres conclusions. En substance, le Tribunal des baux et loyers a retenu que toutes les conditions légales relatives à la mise en demeure, à la résiliation du bail et à la demande d'évacuation étaient réunies. Il est arrivé à la conclusion qu'aucun des témoins n'avait été en mesure de confirmer que la gérante avait remis à H.X._ la somme de 180'000 fr. et qu'il était douteux qu'elle lui ait remis un tel montant sans lui demander de quittance.
Saisie d'un appel de la gérante, la Chambre d'appel en matière de baux et loyers de la Cour de justice du canton de Genève a, par arrêt du 5 octobre 2009, annulé le jugement entrepris, constaté l'inefficacité de la résiliation adressée par H.X._ et F.X._ à Y._, condamné les premiers au paiement d'un émolument en faveur de l'Etat et débouté les parties de toutes autres conclusions. Sur la question de l'éventuelle remise d'un montant de 180'000 fr., la cour cantonale, considérant qu'il ne se justifiait pas d'ordonner la réouverture des enquêtes, a débouté l'appelante de ses conclusions sur ce point. S'agissant de la validité de la résiliation du bail à ferme liant les parties, elle a donné raison à l'appelante, considérant que si la sommation avait été valablement expédiée, elle ne contenait toutefois aucune menace de résiliation de bail et ne respectait donc pas l'exigence de l'<ref-law>.
C. H.X._ et F.X._ exercent un recours en matière civile contre l'arrêt cantonal du 5 octobre 2009. Ils concluent à l'annulation de l'arrêt entrepris et à la confirmation du jugement de première instance, à tout le moins au renvoi de la cause à la Cour de justice, sous suite de dépens. Subsidiairement, les recourants concluent à ce que Y._ soit déboutée de toutes autres ou contraires conclusions.
L'intimée conclut à l'irrecevabilité du recours et, sur le fond, à son rejet et à la confirmation de l'arrêt de la Cour de justice, sous suite de dépens.

Considérant en droit:
1. 1.1 Compte tenu des prestations convenues en l'espèce, il n'est pas douteux que le contrat conclu entre les parties doit être qualifié de bail à ferme non agricole (<ref-law>). Les parties ne le contestent d'ailleurs pas. La règle de l'<ref-law> visant le contrat de bail à loyer (<ref-law>), elle ne s'applique pas dans le cas d'un bail à ferme (BERNARD CORBOZ, in Commentaire de la LTF, no 25 ad <ref-law>; BEAT RUDIN, in Basler Kommentar, Bundesgerichtsgesetz, 2008, no 12 ad <ref-law> et la référence). Le recours n'est donc recevable que si la valeur litigieuse s'élève au moins à 30'000 fr. (<ref-law>).
En cas de bail de durée déterminée, la valeur litigieuse équivaut au loyer pendant la durée convenue (PETER HIGI, Zürcher Kommentar, OR, 4e éd. 1996, no 28 ad art. 273; DAVID LACHAT, Le bail à loyer, 2008, n. 6.7, note de pied 235, p. 759). Pour un bail de durée indéterminée, elle est égale au loyer de la période minimum pendant laquelle le contrat subsiste si la résiliation n'est pas valable, période qui s'étend jusqu'à la date pour laquelle un nouveau congé peut être donné. En principe, la durée déterminante pour le calcul de la valeur litigieuse ne saurait être inférieure à la période de trois ans pendant laquelle l'art. 271a al. 1 let. e CO (auquel renvoie l'<ref-law>) consacre l'annulabilité d'une résiliation (arrêt 4C.167/2002 du 8 octobre 2002 consid. 1.1; arrêt 4C.310/1996 du 16 avril 1997, publié in SJ 1997 p. 493, consid. 2 et les références citées).
En l'espèce, les parties sont convenues que "le contrat sera reconduit d'année en année (...) ce, jusqu'à un total de 5 années". Il s'agit donc d'un contrat avec une durée maximale de cinq ans. La doctrine considère ce cas de figure comme un contrat de durée indéterminée (cf. HIGI, op. cit., no 28 et 30 ad <ref-law>). Il n'en demeure pas moins qu'en l'espèce, le contrat arrivera à échéance le 30 avril 2011, soit avant la fin de la période de trois ans prévue à l'art. 271a al. 1 let. e CO. Comme les loyers, gérances et charges s'élevaient mensuellement à 4'175 fr, la limite de 30'000 fr. fixée par l'<ref-law> est néanmoins sans conteste atteinte même si l'on prend en compte, pour le calcul de la valeur litigieuse, la durée du bail jusqu'à l'échéance convenue dans le contrat du 23 mars 2006.
Interjeté par la partie qui a succombé dans ses conclusions en validation du congé et en évacuation (<ref-law>) et dirigé contre un arrêt final (<ref-law>) rendu en matière civile (<ref-law>) par une autorité cantonale de dernière instance (<ref-law>), le recours est en principe recevable, puisqu'il a été déposé dans le délai (art. 100 al. 1 et 45 al. 1 LTF) et la forme (<ref-law>) prévus par la loi.
1.2 Le recours peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>). Il n'est donc limité ni par les arguments soulevés dans le recours, ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (<ref-ruling> consid. 1.1 p. 104). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (<ref-law>), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui (<ref-ruling> consid. 1.1 p. 105).
Il ne peut pas entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal si le grief n'a pas été invoqué et motivé de manière précise par la partie recourante (<ref-law>).
1.3 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (<ref-law>). Il ne peut s'en écarter que si les faits ont été établis de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire (<ref-ruling> consid. 4.3 p. 63) - ou en violation du droit au sens de l'<ref-law> (<ref-law>).
La partie recourante ne peut critiquer les constatations de fait qu'en expliquant de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (<ref-ruling> consid. 1.4 p. 287). En conséquence, il n'est pas possible de prendre en considération l'exposé des faits figurant aux pages 3 à 15 du recours.
1.4 Le Tribunal fédéral ne peut aller au-delà des conclusions des parties (<ref-law>). Toute conclusion nouvelle est irrecevable (<ref-law>).
2. 2.1 Les recourants reprochent à la cour cantonale d'avoir considéré que la sommation du 4 mai 2007 ne contenait pas de menace de résiliation de bail, au motif que le mot "résiliation" n'y était pas inscrit. Ils admettent que la mise en demeure doit contenir une menace claire de résiliation, mais ils considèrent toutefois que cela était bien le cas en l'espèce et qu'il serait choquant que le tribunal protège un locataire qui savait que son bail serait résilié au regard de la teneur du courrier du 4 mai 2007 et de la référence (à l'art. 4 al. 2 du contrat du 23 mars 2006) contenue dans cette correspondance. Ils invoquent la violation de l'interdiction de l'arbitraire (art. 9 Cst.) sous deux angles différents: d'une part, ils soutiennent que la décision cantonale est manifestement insoutenable, qu'elle viole "un sentiment de justice important"; d'autre part, ils font également grief à l'autorité précédente d'avoir sombré dans l'arbitraire en matière d'appréciation des preuves, le contenu de la mise en demeure envoyée par les recourants le 4 mai 2007 ne comportant, selon eux, aucun flou.
2.2 Selon la jurisprudence, l'arbitraire ne résulte pas du seul fait qu'une autre solution pourrait entrer en considération ou même qu'elle serait préférable; le Tribunal fédéral n'annulera la décision attaquée que lorsque celle-ci est manifestement insoutenable, qu'elle se trouve en contradiction claire avec la situation de fait, qu'elle viole gravement une norme ou un principe juridique indiscuté, ou encore lorsqu'elle heurte de manière choquante le sentiment de la justice et de l'équité; pour qu'une décision soit annulée pour cause d'arbitraire, il ne suffit pas que la motivation formulée soit insoutenable, il faut encore que la décision apparaisse arbitraire dans son résultat (<ref-ruling> consid. 1.3 p. 4 s.; <ref-ruling> consid. 3.1 p. 265 s.).
En ce qui concerne plus précisément l'appréciation des preuves et les constatations de fait, il y a arbitraire lorsque l'autorité ne prend pas en compte, sans aucune raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des constatations insoutenables (<ref-ruling> consid. 2.1 p. 9).
2.3 S'agissant du moyen tiré de l'arbitraire dans l'appréciation des preuves, il est douteux que celui-ci soit recevable. Les recourants se limitent à affirmer que la mise en demeure du 4 mai 2007 n'avait rien de flou, mais qu'elle était au contraire univoque et qu'il est ainsi clair que le contrat a été résilié. Ils n'expliquent toutefois pas en quoi la cour cantonale aurait apprécié ce document de manière arbitraire. Ils ne prétendent notamment pas que l'extrait reproduit dans l'arrêt cantonal ne serait pas complet ou qu'il ne refléterait pas le sens général du courrier contenant la mise en demeure. A lire l'extrait, il est indéniable que cette lettre ne comporte aucune menace explicite de résiliation, autre étant la question de savoir si le renvoi à l'art. 4 al. 2 du contrat, contenu dans l'extrait, permet de conclure que la menace de résiliation a été valablement communiquée (cf. infra consid. 2.4).
Il apparaît que les recourants, bien qu'invoquant une appréciation arbitraire des preuves, font plutôt grief à la cour cantonale d'avoir considéré que la mise en demeure litigieuse ne respecte pas les conditions de l'<ref-law>. Ils n'invoquent certes pas expressément la violation de cette disposition, mais on comprend à la lecture de leur exposé qu'ils estiment que celle-ci aurait été transgressée par la cour cantonale et il convient dès lors d'examiner le reproche des recourants (cf. arrêt 2C_612/2007 du 7 avril 2008 consid. 2.1 et les références).
2.4 La seule question litigieuse est de savoir si la mise en demeure, qui ne contient aucune menace de résiliation mais se borne à renvoyer à l'art. 4 al. 2 du contrat du 23 mars 2006, permettait aux recourants de résilier valablement le contrat de bail à ferme.
2.4.1 En vertu de l'<ref-law>, lorsque, après la réception de la chose, le fermier a du retard pour s'acquitter d'un terme ou de frais accessoires échus, le bailleur peut lui fixer par écrit un délai de 60 jours au moins et lui signifier qu'à défaut de paiement dans ce délai, il résiliera le bail (al. 1). Faute de paiement dans le délai fixé, le bailleur peut résilier le contrat avec effet immédiat; les baux à ferme portant sur des habitations ou des locaux commerciaux peuvent être résiliés moyennant un délai de congé minimum de 30 jours pour la fin d'un mois (al. 2).
Selon la jurisprudence et la doctrine s'exprimant sur l'<ref-law>, le courrier contenant l'avis comminatoire doit expressément indiquer qu'à défaut de paiement dans le délai imparti, le bail sera résilié (<ref-ruling> consid. 3 p. 150; <ref-ruling> consid. 3 p. 416; Tercier/Favre, Les contrats spéciaux, 4e éd. 2009, n. 2393 p. 347; Lachat, op. cit., p. 667; Pierre Wessner, L'obligation du locataire de payer le loyer et les frais accessoires, in 9e Séminaire sur le droit du bail, 1996, p. 19; Roger Weber, in Basler Kommentar, OR I, 4e éd. 2007, no 4 ad <ref-law>; Peter Zihlmann, Das Mietrecht, 2e éd. 1995, p. 59). Il se justifie de retenir la même exigence pour l'<ref-law> qui est, excepté pour la seule question de la durée du délai comminatoire de paiement, identique à l'<ref-law> (cf. Higi, op. cit, no 9 ad <ref-law>; Benno Studer, in Basler Kommentar, OR I, 4e éd. 2007, no 1 ad <ref-law>). A la lecture du courrier contenant l'avis comminatoire, le locataire (cf. <ref-law>) - ou le fermier (cf. <ref-law>) - doit clairement comprendre que le bailleur se réserve la faculté de mettre un terme au bail, si le montant n'est pas payé à temps (cf. Lachat, op. cit., p. 667; Tercier/Favre, op. cit., n. 2393 p. 347). Il ne suffit pas pour le bailleur de renvoyer, dans son courrier, à l'<ref-law> (ou à l'<ref-law>) (cf. Wessner, op. cit., p. 17 et les références). A défaut d'une telle menace de congé, le bailleur ne pourra valablement résilier le contrat (Lachat, op. cit., p. 667 et les références; Higi, op. cit, no 34 ad <ref-law>; Richard Permann, Mietrecht, Kommentar, no 9 ad <ref-law>).
2.4.2 En l'occurrence, il est patent que le courrier du 4 mai 2007 ne contient aucune menace expresse de résiliation. Dans la même mesure qu'un renvoi à l'<ref-law> n'est pas suffisant, le renvoi à l'art. 4 al. 2 du contrat - qui rappelle simplement, en substance, les conditions de la résiliation prévue à l'<ref-law>, et qui ne contient d'ailleurs en soi aucune formulation pouvant s'apparenter à une menace concrète de résiliation - ne permet pas non plus de retenir que le courrier contenant l'avis comminatoire réalise l'exigence stricte de l'<ref-law>. Sur la base du courrier du 4 mai 2007, la gérante n'était donc pas à même de comprendre qu'à défaut de paiement de sa part, les recourants se réservaient la faculté de mettre un terme au contrat de bail à ferme. Ceux-ci ne pouvaient dès lors valablement résilier ce contrat le 16 juillet 2007.
On ne peut ainsi reprocher à la cour cantonale d'avoir mal appliqué l'<ref-law>. A fortiori, on ne saurait lui faire grief d'avoir rendu une décision manifestement insoutenable ou qui violerait le sentiment de justice. Sous cet angle également, le moyen est infondé, pour autant qu'il fût, au regard de la motivation sommaire des recourants, recevable.
3. Il résulte des considérants qui précèdent que le recours, mal fondé, doit être rejeté dans la mesure où il est recevable.
Les frais judiciaires et les dépens sont mis à la charge des recourants, qui succombent (art. 66 al. 1 et 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis solidairement à la charge des recourants.
3. Les recourants verseront solidairement à l'intimée 2'500 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux parties et à la Chambre d'appel en matière de baux et loyers du canton de Genève.
Lausanne, le 10 février 2010
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Le Greffier:
Klett Piaget