Faits:
A. La Ville de Y._, qui est une commune du canton, est propriétaire d'une parcelle située entre le chemin ..., la route ... et l'avenue ..., à Y._, où sont installés les A._.
Par contrat du 16 mai 1986, la Ville de Y._ a remis à bail à V._ l'emplacement situé dans une partie des A._ dénommé "..." aux fins d'exploiter un glacier.
En 1987, V._ ont remis en gérance cet établissement à X._.
Par contrat du 1er mars 1989, V._ ont vendu à X._ le fonds de commerce de cet établissement, soit un débit de boissons, de glace, et de restauration, pour le prix de 400'000 fr.
Selon contrat du 28 juillet 1994, la Ville de Y._ a remis à bail directement à X._ la "..." en vue de l'exploitation d'une buvette, pour un loyer annuel de 8'004 fr., adapté selon l'évolution de l'indice officiel suisse des prix à la consommation. Le contrat indiquait que X._ était déjà dans les lieux. Le bail était conclu pour une durée initiale de cinq ans, se terminant le 31 juillet 1999, reconductible ensuite d'année en année, sauf résiliation donnée six mois avant l'échéance. L'art. 10 prescrivait que le locataire devait obtenir le consentement écrit du bailleur pour tous travaux visant à adapter la chose louée à l'activité professionnelle prévue par le bail; si, à la fin du bail, la chose louée présentait une plus-value considérable résultant des travaux acceptés par le bailleur, le locataire pouvait exiger une indemnité n'excédant pas le coût des travaux à teneur des factures acquittées, diminuée de 10 % par an à dater de leur exécution.
Par courrier du 3 décembre 2001, la Ville de Y._ a informé X._ que son bail prendrait fin avec le réaménagement de A._, dès lors qu'il impliquait la démolition de la buvette.
Par un autre courrier du 11 février 2002, la Ville de Y._ a informé X._ que son bail serait résilié à moyen terme et qu'il n'avait plus dès lors qu'un caractère temporaire.
Le 26 septembre 2007, le Conseil administratif de la Ville de Y._ a proposé au Conseil municipal l'ouverture d'un crédit global de 2'350'000 fr., portant notamment sur une préétude et une étude en vue du réaménagement de A._. Il s'agissait d'agrandir les herbiers, afin d'augmenter les surfaces de stockage et de consultation, et de construire un café-restaurant, un espace d'accueil et d'exposition permanente, ainsi qu'une boutique. L'installation du café-restaurant entraînait la suppression du glacier actuel qui était inadapté et situé en zone non constructible. Un concours d'architecture a été organisé et une esquisse provisoire du pavillon d'accueil a été réalisée. Lors de ses séances des 23 et 24 juin 2008, le Conseil municipal a voté le crédit.
Le 3 décembre 2008, le Conseil administratif de la Ville de Y._ a proposé au Conseil municipal l'ouverture d'un crédit brut de 13'390'100 fr. destiné au financement du réaménagement de A._. Le réaménagement prévu comportait notamment la construction d'un pavillon d'accueil, d'un pavillon de service, ainsi que d'une buvette de restaurant avec une salle à manger et une terrasse. La nouvelle cafétéria ne devait plus être en zone verdure. Ce crédit a été voté par le Conseil municipal lors de sa séance du 13 mai 2009.
Par courrier et formule officiel du 23 mai 2008, la Ville de Y._ a résilié le contrat de bail de X._ pour le 31 juillet 2009.
La Ville de Y._ a déposé le 19 novembre 2008 une demande d'autorisation de démolir la buvette et de construire portant sur le réaménagement de A._. Les autorisations ont été délivrées le 22 mai 2009 et publiées dans la Feuille d'Avis Officielle du 26 mai 2009. Le recours formé par X._ contre ces autorisations a été déclaré irrecevable par décision du 24 septembre 2009 de la Commission de recours cantonale, décision qui n'a pas été attaquée par X._ devant le Tribunal administratif.
X._, âgé d'environ septante ans, exploite "..." avec son épouse, son fils, sa fille et son gendre, qui sont ses salariés. Il a déclaré qu'il ne voulait pas gérer un autre établissement, mais souhaitait que ses enfants poursuivent dans cette voie. Il a indiqué qu'il avait achevé de payer le prix du fonds de commerce en 2001. Il a allégué qu'il avait fait régulièrement des investissements, mais sans en apporter la preuve. Selon les comptes qu'il a produits, les salaires bruts se sont élevés, en 2006, à 145'809 fr. 80 et le bénéficie net à 66'318 fr. 30; selon les comptes 2007, les salaires bruts étaient de 143'510 fr. 55 et le bénéfice net de 100'464 fr. 95.
B. X._ a contesté la validité du congé et a sollicité subsidiairement une prolongation du bail.
La Ville de Y._ s'est entièrement opposée à la demande.
Par décision du 29 novembre 2008, la Commission de conciliation en matière de baux et loyers a déclaré le congé valable et a accordé à X._ une première prolongation du bail jusqu'au 31 juillet 2013.
Par jugement du 27 avril 2009, le Tribunal des baux et loyers a déclaré le congé valable et a octroyé à X._ une première prolongation du bail échéant le 31 octobre 2010.
Saisie d'un appel des deux parties, la Chambre d'appel en matière de baux et loyers, par arrêt du 15 novembre 2010, a déclaré le congé valable et a rejeté la demande en prolongation du bail.
C. X._ exerce un recours en matière civile au Tribunal fédéral contre l'arrêt cantonal du 15 novembre 2010. Invoquant une violation des art. 272 et 274d al. 3 CO, il conclut - tout en admettant expressément la validité du congé - à une prolongation du bail venant à échéance le 31 octobre 2013, avec suite de dépens.
L'intimée a conclu à l'irrecevabilité, subsidiairement au rejet du recours, avec suite de frais et dépens.

Considérant en droit:
1. 1.1 Le recours étant dirigé contre une décision finale (<ref-law>), la valeur litigieuse doit être déterminée sur la base des dernières conclusions prises devant l'autorité précédente (<ref-law>). Or, dans les dernières conclusions prises devant la cour cantonale, la question de la validité du congé était encore litigieuse. Lorsque le différend porte sur la validité d'un congé donné par le bailleur, la valeur litigieuse correspond au moins à trois ans de loyers, en raison du délai de protection, dans le cas où le locataire obtient gain de cause, qui est prévu par l'art. 271a al. 1 let. e CO (<ref-ruling> consid. 1.1 p. 197; <ref-ruling> consid. 1 p. 386). Etant admis que le loyer annuel est toujours de 8'004 fr., il n'est donc pas douteux que la valeur litigieuse minimale de 15'000 fr. requise en matière de bail à loyer par l'<ref-law> est ici atteinte.
Interjeté par la partie qui a succombé dans ses conclusions tendant à faire annuler le congé et à prolonger le bail (et qui a donc qualité pour recourir : <ref-law>), dirigé contre un arrêt final (<ref-law>) rendu en matière civile (<ref-law>) par une autorité cantonale de dernière instance (<ref-law>), le recours est en principe recevable, puisqu'il a été déposé dans le délai (art. 46 al. 1 let. c, 48 al. 1 et 100 al. 1 LTF) et la forme (<ref-law>) prévus par la loi.
1.2 Le recours peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Il peut donc également être formé pour violation d'un droit constitutionnel (<ref-ruling> consid. 2.1 p. 247; <ref-ruling> consid. 2.4 p. 313).
Le Tribunal fédéral applique le droit d'office (<ref-law>). Il n'est donc limité ni par les arguments soulevés dans le recours, ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (<ref-ruling> consid. 1.4 p. 400; <ref-ruling> consid. 1.1 p. 104). Compte tenu de l'exigence de motivation contenu à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (<ref-law>), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui (<ref-ruling> consid. 2.2.1 p. 389; <ref-ruling> consid. 1.4 p. 40). Par exception à la règle selon laquelle il examine le droit d'office, il ne peut entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal que si le grief a été invoqué et motivé de manière précise par la partie recourante (<ref-law>).
1.3 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (<ref-law>). Il ne peut s'en écarter que si les faits ont été établis de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire (ATF <ref-ruling> consid. 2.4 p. 314; <ref-ruling> consid. 8.1 p. 153; <ref-ruling> consid. 1.5 p. 130, 397 consid. 1.5 p. 401) - ou en violation du droit au sens de l'<ref-law> (<ref-law>).
La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (<ref-ruling> consid. 1.2 p. 187; <ref-ruling> consid. 1.4 et 6.2). Une rectification de l'état de fait ne peut être demandée que si elle est de nature à influer sur le sort de la décision (<ref-law>). Aucun fait nouveau, ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (<ref-law>).
En l'espèce, le recourant tente parfois de substituer sa propre version à celle retenue par l'autorité cantonale. Dès lors qu'il n'invoque pas l'arbitraire (art. 9 Cst.) et ne démontre pas de manière précise, avec référence à des pièces du dossier, qu'un fait aurait été constaté ou omis de manière insoutenable, il n'y a pas lieu d'en tenir compte et le raisonnement doit être mené sur la base de l'état de fait contenu dans la décision attaquée.
1.4 Le Tribunal fédéral ne peut aller au-delà des conclusions des parties (<ref-law>). Toute conclusion nouvelle est irrecevable (<ref-law>). Une partie peut cependant réduire ses prétentions (<ref-ruling> consid. 3.4.2 p. 365).
Il faut donc prendre acte en l'espèce du fait que le recourant ne conclut plus à l'annulation du congé et que le litige se circonscrit à la seule question de la prolongation du bail.
2. 2.1 Le recourant invoque une violation de l'<ref-law>. Ce grief ne peut être examiné que dans la mesure où il se plaint de la manière dont les preuves ont été administrées, puisque la disposition invoquée ne traite que de cette question.
2.2 Selon l'<ref-law>, l'autorité de conciliation et le juge établissent d'office les faits et apprécient librement les preuves. Les parties sont tenues de leur présenter toutes les pièces nécessaires à l'appréciation du litige. Cette disposition, qui institue une maxime inquisitoire sociale, est conçue pour venir en aide à la partie économiquement faible, surtout si elle n'est pas assistée d'un avocat. Elle ne libère cependant pas les parties de participer activement à la constatation des faits pertinents et de désigner les preuves à apporter. Les parties supportent ainsi la responsabilité de l'établissement des faits. La maxime inquisitoire sociale signifie seulement que le juge doit exercer son devoir d'interroger les parties et de les informer sur la nécessité de collaborer à l'instruction et de fournir des preuves. Si des motifs objectifs conduisent le juge à soupçonner que les allégations et offres de preuves d'une partie sont lacunaires, il n'est pas lié par l'offre de preuves en question et a le devoir de rechercher lui-même des preuves pour autant qu'il ait connaissance, sur la base des déclarations des parties ou du dossier, de l'existence de moyens de preuves pertinents (<ref-ruling> consid. 4a p. 238 s.; arrêt 4A_544/2010 du 8 décembre 2010 consid. 2.4 et les références citées).
2.3 Le recourant se plaint de ne pas avoir pu faire entendre des témoins, afin de prouver qu'il occupait les lieux depuis vingt ans, et non pas depuis seize ans.
La cour cantonale a retenu, en faveur du recourant, qu'il occupait les lieux depuis très longtemps et qu'il devait lui être désagréable de les quitter. La différence entre seize et vingt ans n'est pas telle qu'elle puisse modifier l'issue du litige. Or, l'<ref-law> n'oblige pas le juge à élucider des faits qui sont sans pertinence pour la décision à rendre. De surcroît, la cour cantonale a retenu en fait que le recourant occupait les lieux, comme gérant de V._, depuis 1987, soit depuis plus de vingt ans. Le grief n'a donc aucune consistance.
2.4 Le recourant reproche à la cour cantonale de ne pas lui avoir permis de faire entendre des témoins en vue d'établir les investissements qu'il a effectués durant le bail.
Des investissements impliquent nécessairement des factures et des paiements, qui peuvent être établis par des pièces. L'<ref-law> n'oblige pas le juge à entendre des témoins pour des faits qui peuvent être établis par des documents; il précise au contraire que les parties sont tenues de lui présenter toutes les pièces nécessaires à l'appréciation du litige. En constatant que le recourant n'avait pas produit de pièces au sujet de ses prétendus investissements et que ses comptes révélaient une très faible valeur du matériel, la cour cantonale en a déduit, par une appréciation des preuves apportées, que les investissements allégués n'étaient pas prouvés. L'appréciation des preuves n'est pas régie par l'<ref-law> et cette disposition n'est en aucun cas violée si le juge refuse une mesure probatoire sur la base d'une appréciation anticipée des preuves qui ne peut pas être qualifiée d'arbitraire.
2.5 Sans invoquer expressément l'<ref-law>, le recourant se plaint aussi de ce que la cour cantonale a retenu qu'il n'avait pas établi que la fin du bail le placerait dans une situation précaire.
Ce grief dénature le raisonnement adopté par la cour cantonale. Contrairement à ce qu'affirme le recourant, personne ne lui a reproché de mettre fin à son activité lucrative à l'âge de septante ans. Il est évident que la cessation de son activité entraînera, pour lui, une baisse importante de ses revenus, ce que la cour cantonale n'a pas mis en doute. La cour cantonale s'est seulement demandée s'il risquait de tomber dans le dénuement, hypothèse qu'elle a rejetée en constatant que le recourant n'avait pas tenté d'établir sa situation financière d'ensemble, notamment en produisant un bordereau fiscal. Il ressort des comptes produits que l'exploitation de la buvette a été clairement profitable au cours de ces dernières années. Le recourant ne prétend pas, devant le Tribunal fédéral, qu'il aurait allégué ou offert en preuves que la cessation de son activité le plongerait dans le dénuement. Etant rappelé qu'il incombe aux parties de présenter les faits, la cour cantonale n'a pas violé l'<ref-law>, en n'ordonnant pas de preuves sur une hypothèse théorique qu'aucun élément du dossier ne venait étayer. Le juge ne doit ordonner des preuves d'office que si les éléments réunis devant lui font sérieusement soupçonner l'existence de faits non allégués, ce qui n'est pas le cas en l'espèce.
2.6 Le recourant reproche aussi à la cour cantonale de ne pas avoir procédé à l'audition de témoins en vue d'établir si les travaux pouvaient commencer sans toucher aux locaux loués. La cour cantonale a écarté cette hypothèse; sur la base des pièces produites, elle a constaté que le projet impliquait la démolition de la buvette et qu'une autorisation de démolir avait été obtenue; elle est parvenue à la conviction que le déroulement rationnel du chantier supposait la destruction de la buvette sans attendre. Si le juge parvient à se convaincre sur la base des preuves apportées, l'<ref-law> ne l'oblige pas à administrer d'autres preuves. Il s'agit alors d'une question d'appréciation des preuves et le recourant - qui n'a pas invoqué l'arbitraire (art. 9 Cst.) - n'a pas démontré que cette appréciation serait insoutenable.
Il n'y a donc pas trace d'une violation de l'<ref-law>.
3.1 Le recourant invoque également une violation de l'<ref-law>, reprochant à la cour cantonale de ne pas lui avoir accordé une prolongation du bail.
3.2 Aux termes des art. 272 al. 1 et 272b al. 1 CO, le locataire peut demander la prolongation d'un bail de locaux commerciaux pour une durée de six ans au maximum lorsque la fin du contrat aurait pour lui des conséquences pénibles et que les intérêts du bailleur ne les justifient pas. Dans cette limite de temps, le juge peut accorder une ou deux prolongations.
Le juge apprécie librement, selon les règles du droit et de l'équité (<ref-law>), s'il y a lieu de prolonger le bail et, dans l'affirmative, pour quelle durée. Il doit procéder à la pesée des intérêts en présence et tenir compte du but d'une prolongation, consistant à donner du temps au locataire pour trouver des locaux de remplacement. Il lui incombe de prendre en considération tous les éléments du cas particulier, tels que la durée du bail, la situation personnelle et financière de chaque partie, leurs comportements, de même que la situation sur le marché locatif local (<ref-ruling> consid. 6 p. 195; <ref-ruling> consid. 2 p. 123).
Le Tribunal fédéral ne revoit qu'avec réserve la décision d'équité prise en dernière instance cantonale. Il intervient lorsque celle-ci s'écarte sans raison des règles établies par la doctrine et la jurisprudence en matière de libre appréciation, ou lorsqu'elle s'appuie sur des faits qui, dans le cas particulier, ne devaient jouer aucun rôle, ou encore lorsqu'elle ignore des éléments qui auraient absolument dû être pris en considération. En outre, le Tribunal fédéral redresse les décisions rendues en vertu du pouvoir d'appréciation lorsque celles-ci aboutissent à un résultat manifestement injuste ou à une inéquité choquante (ATF <ref-ruling> consid. 2 p. 123 s.; <ref-ruling> consid. 5.4 p. 211).
3.3 Le but d'une prolongation du bail étant de donner au locataire un peu plus de temps que le délai normal de résiliation pour tenter de trouver des locaux de remplacement (<ref-ruling> consid. 3b p. 448), il apparaît d'emblée en l'espèce que l'on ne se trouve pas dans un cas pour lequel la prolongation du bail a été prévue, puisque le recourant, âgé de septante ans, exclut totalement de reprendre un autre établissement. La prolongation du bail ne pourrait donc pas lui donner du temps pour trouver une solution de remplacement. La jurisprudence a admis, à titre exceptionnel, que le bail commercial pouvait être prolongé s'il s'agissait de permettre au locataire d'atteindre l'âge de la retraite ou de liquider son entreprise dans de meilleures conditions (arrêt 4C.146/2006 du 24 août 2006 consid. 2.2; arrêt 4C.14/1995 du 2 mai 1995 consid. 4a). Ces conditions particulières ne sont manifestement pas remplies. En effet, le recourant ne peut pas remettre son établissement à un tiers, puisque les locaux vont être démolis, de sorte qu'il n'a pas besoin de temps pour liquider son entreprise. Par ailleurs, il a atteint depuis longtemps l'âge ordinaire de la retraite. Il a déjà été jugé que le seul fait de prolonger le plus possible une situation profitable ne pouvait constituer un motif de prolongation du bail (<ref-ruling> consid. 3b p. 198).
Quant aux parents du recourant, qui sont ses salariés et ne sont pas à proprement parler le locataire, on ne voit pas ce qui les empêcherait de trouver un autre emploi salarié dans la restauration. Le recourant a lui-même expliqué que l'achat du fonds de commerce avait été entièrement payé en 2001, de sorte que c'est à juste titre que la cour cantonale a constaté que la nécessité d'effectuer cet amortissement ne pouvait plus être prise en compte. Quant aux investissements ultérieurs, la cour cantonale a constaté - d'une manière qui lie le Tribunal fédéral (<ref-law>) - qu'ils n'étaient pas prouvés. De surcroît, il résulte des constatations cantonales que le contrat prévoit, en cas d'investissements à plus-value dûment autorisés par le bailleur, que le locataire peut prétendre à une indemnité. Or, il a déjà été jugé que, lorsque le locataire peut prétendre à une indemnité pour ses investissements, il ne peut se prévaloir de ceux-ci à l'appui d'une requête en prolongation du bail (arrêt 4C.251/2004 du 7 septembre 2004 consid. 2.3.1 publié in SJ 2005 I p. 141). S'il est sans doute désagréable pour le recourant de mettre fin, avant le moment où il le souhaitait, à son activité professionnelle profitable qu'il exerçait depuis longtemps dans les locaux loués, son intérêt à la prolongation du bail doit par principe être mis en balance avec l'intérêt du bailleur. Or, la commune, qui a conçu depuis longtemps le projet de transformer les lieux, dispose maintenant à la fois du budget nécessaire et de l'autorisation de démolir. Il a déjà été jugé qu'une prolongation du bail ne doit en principe pas entraver des travaux d'utilité publique (ATF <ref-ruling> consid. 5 p. 125). Le recourant allègue certes que la commune pourrait commencer ces travaux sans toucher aux locaux qu'il occupe, mais cette affirmation ne repose sur aucune constatation cantonale. La jurisprudence a d'ailleurs admis que le bailleur pouvait légitimement organiser des grands travaux de la manière qui lui paraissait la plus rationnelle et la plus économique, sans que le souhait du locataire de se maintenir dans les locaux ne puisse y faire obstacle (<ref-ruling> consid. 4.2 p. 119 s.).
Dans les circonstances d'espèce, la cour cantonale, qui a pris en compte tous les éléments pertinents, n'a pas abusé de son pouvoir d'appréciation en décidant de ne pas accorder la prolongation du bail sollicitée. En conséquence, le grief est infondé.
4. Il résulte des considérants qui précèdent que le recours doit être rejeté.
Les frais judiciaires et les dépens sont mis à la charge de la partie qui succombe (art. 66 al. 1 et 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3. Le recourant versera à l'intimée une indemnité de 2'500 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux parties et à la Chambre d'appel en matière de baux et loyers du canton de Genève.
Lausanne, le 28 mars 2011
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Le Greffier:
Klett Piaget