Faits:
A. Le 9 décembre 2004, A.Y._ et X._ ont signé un contrat par lequel ce dernier recevait, moyennant le paiement de 1'600 fr. par mois, l'usage d'un caveau pour la dégustation des vins, à l'enseigne "...". A.Y._ a signé en son nom personnel, mais avec l'accord de sa soeur B.Y._, qui était propriétaire des locaux. Le contrat était conclu pour une durée d'une année, soit du 15 décembre 2004 au 30 novembre 2005, renouvelable ensuite pour cinq ans sauf résiliation donnée six mois à l'avance.
Le 21 novembre 2005, A.Y._ et X._ ont signé un avenant prévoyant que le contrat était prolongé jusqu'au 20 mai 2006.
A la fin avril 2006, X._ a cessé l'exploitation commerciale du caveau de dégustation. Il s'est acquitté des mensualités jusqu'à la fin mai 2006, mais il n'a pas restitué les clés des locaux, dans lesquels il a laissé du matériel, notamment du vin, lui appartenant.
Le 30 mai 2007, A.Y._ et X._ ont conclu, par l'intermédiaire de leurs mandataires respectifs, une transaction prévoyant que le contrat du 9 décembre 2004 était en tout cas résilié avec effet au 31 mars 2007 et que X._ autorisait A.Y._ à faire changer les cylindres des portes, sans préjuger des sommes dues entre les parties.
Le 6 juin 2007, B.Y._ - propriétaire des locaux - a fait changer les cylindres des portes d'entrée du caveau, afin de pouvoir y pénétrer.
Le 26 juin 2007, deux employés de X._ sont venus récupérer les bouteilles de vin, ainsi que le matériel encore entreposé dans les locaux.
B. Par mémoire-demande du 13 novembre 2007, A.Y._ a ouvert action contre X._ par-devant le Tribunal des districts d'Hérens et Conthey, lui réclamant le paiement des mensualités de juin 2006 jusqu'à la libération des locaux en juin 2007. Elle a conclu à ce que sa partie adverse soit condamnée à lui verser la somme de 19'200 fr. avec intérêts à 5% l'an à compter de chaque échéance, avec suite de frais et dépens.
X._ s'est opposé à la demande.
Par jugement du 8 janvier 2010, le juge de district a condamné X._ à verser à A.Y._ la somme de 19'200 fr. avec intérêts à 5% l'an dès le 15 décembre 2007, avec suite de frais et dépens.
Saisi d'un appel formé par X._, la Cour civile I du Tribunal cantonal valaisan, par arrêt du 9 novembre 2010, a condamné X._ à verser à A.Y._ la somme de 19'200 fr. avec intérêts à 5% l'an dès le 15 décembre 2007, avec suite de frais et dépens.
C. X._ exerce un recours constitutionnel subsidiaire contre l'arrêt cantonal du 9 novembre 2010. Invoquant l'interdiction de l'arbitraire (art. 9 Cst.) ainsi qu'une violation du droit d'être entendu sous l'angle du droit à une décision motivée (art. 29 al. 2 Cst.), il conteste la légitimation active de sa partie adverse et le montant des dommages-intérêts qui ont été alloués à cette dernière. Il conclut à l'annulation de l'arrêt attaqué et au rejet de la demande avec suite de frais et dépens.
L'intimée conclut à l'irrecevabilité ou au rejet du recours avec suite de frais et dépens.

Considérant en droit:
1. Le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1.1 p. 3, 329 consid. 1 p. 331).
1.1 Les deux parties admettent que le contrat qu'elles ont signé le 9 décembre 2004 doit être qualifié de bail à ferme non agricole au sens de l'art. 275 CO. Selon les constatations cantonales, il apparaît toutefois que l'intimée a cédé l'usage d'un "simple local commercial brut" et de places de parc en contre-partie du paiement, par le recourant, d'un montant de 1'600 fr. par mois; on ne voit pas, toujours selon les faits établis par l'autorité précédente, que les parties soient convenues que l'usage devait porter sur davantage que des locaux (installations, stock, etc.); faisant référence au montant de 1'600 fr., l'autorité cantonale parle à plusieurs reprises d'un "loyer". On pourrait dès lors se demander si la relation contractuelle ne devrait pas être qualifiée de contrat de bail (art. 253 CO).
Dans la première hypothèse (bail à ferme), l'art. 74 al. 1 let. a LTF ne serait pas applicable et la valeur litigieuse permettant d'interjeter un recours en matière civile au Tribunal fédéral serait fixée à 30'000 fr. (art. 74 al. 1 let. b LTF; <ref-ruling> consid. 1.1 p. 197); seul le recours constitutionnel subsidiaire - formé par le recourant - serait recevable. Dans la deuxième hypothèse (bail à loyer), les griefs invoqués par le recourant pourraient être examinés sous l'angle du recours en matière civile, celui-ci étant, du point de vue de la valeur litigieuse, recevable (art. 74 al. let. a LTF), étant précisé que l'intitulé erroné de l'écriture (le recourant a formé uniquement un recours constitutionnel subsidiaire) ne nuit pas à son auteur (sur l'ensemble de la question: <ref-ruling> consid. 1.2 p. 382).
En l'espèce, la qualification du contrat peut rester indécise puisque le recourant se limite à soulever des moyens tirés de la violation de droits constitutionnels (interdiction de l'arbitraire et droit d'être entendu); ces griefs peuvent être examinés aussi bien sous l'angle du recours constitutionnel subsidiaire (art. 116 LTF) que dans le cadre d'un recours en matière civile, la notion de droit fédéral dont la violation est évoquée à l'art. 95 let. a LTF englobant également les droits constitutionnels (<ref-ruling> consid. 2.4 p. 313).
1.2 Interjeté par la partie qui a succombé dans ses conclusions libératoires et qui a un intérêt juridique à l'annulation ou à la modification de la décision (sous l'angle du recours en matière civile: art. 76 al. 1 LTF; sous l'angle du recours constitutionnel subsidiaire: art. 115 LTF), le recours, déposé dans le délai (art. 100 al. 1 et 48 al. 1 LTF; art. 117 LTF) et la forme (art. 42 LTF) prévus par la loi, est en principe recevable, puisqu'il est dirigé contre une décision finale (art. 90 LTF; art. 117 LTF) rendue par une autorité cantonale de dernière instance (art. 75 al. 1 LTF; art. 113 LTF).
1.3 S'agissant d'un recours formé pour violation des droits constitutionnels, le Tribunal fédéral ne peut examiner que les griefs qui ont été invoqués et motivés de manière précise dans l'acte de recours (art. 106 al. 2 LTF; art. 117 LTF).
1.4 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF; art. 118 al. 1 LTF). Il ne peut s'en écarter que si le recourant montre que les faits ont été établis arbitrairement (art. 9 Cst.), soit en transgressant un droit constitutionnel (cf. art. 106 al. 2 LTF; art. 118 al. 2 et 116 LTF); il incombe au recourant d'invoquer avec précision cette violation (art. 105 al. 2 et 106 al. 2 LTF; art. 117 LTF). Aucun fait nouveau ou preuve nouvelle ne peut être présenté à moins de résulter de la décision attaquée (art. 99 al. 1 LTF; art. 117 LTF).
2. 2.1 Le recourant invoque l'interdiction de l'arbitraire d'une part et son droit à une décision motivée d'autre part.
Selon la jurisprudence, l'arbitraire, prohibé par l'art. 9 Cst., ne résulte pas du seul fait qu'une autre solution pourrait entrer en considération ou même qu'elle serait préférable; le Tribunal fédéral n'annule la décision attaquée que lorsque celle-ci est manifestement insoutenable, qu'elle se trouve en contradiction claire avec la situation de fait, qu'elle viole gravement une norme ou un principe juridique indiscuté, ou encore lorsqu'elle heurte de manière choquante le sentiment de la justice et de l'équité; pour qu'une décision soit annulée pour cause d'arbitraire, il ne suffit pas que la motivation formulée soit insoutenable, il faut encore que la décision apparaisse arbitraire dans son résultat (<ref-ruling> consid. 2.2.2 p. 318 s.; <ref-ruling> consid. 1.3 p. 4; <ref-ruling> consid. 3.1 p. 265 s.).
La jurisprudence a déduit du droit d'être entendu - garanti par l'art. 29 al. 2 Cst. - notamment l'obligation pour l'autorité de motiver sa décision, afin que son destinataire puisse la comprendre et l'attaquer utilement s'il y a lieu; il suffit, pour répondre à cette exigence, que le juge mentionne, au moins brièvement, les motifs qui l'ont guidé et sur lesquels il a fondé sa décision, de manière à ce que l'intéressé puisse se rendre compte de la portée de celle-ci et l'attaquer en connaissance de cause; le juge n'a pas l'obligation d'exposer et de discuter tous les faits, moyens de preuve et griefs invoqués par les parties, et il peut passer sous silence ce qui, sans arbitraire, lui paraît à l'évidence non établi ou sans pertinence (<ref-ruling> consid. 4 p. 88; <ref-ruling> consid. 3.1 p. 277; <ref-ruling> consid. 3.3 p. 445).
2.2 La cour cantonale a constaté en fait - sans que l'arbitraire ne soit invoqué à ce sujet - que les parties ont signé ensemble un contrat le 9 décembre 2004, puis un avenant le 21 novembre 2005. Il n'est pas contesté que ce contrat a été exécuté en ce sens que le recourant a obtenu l'usage du caveau et qu'il en a payé la contrepartie jusqu'à la fin mai 2006. Les mêmes parties ont signé, le 30 mai 2007, une transaction fixant la date de la résiliation au 31 mars 2007.
Sur la base de ces faits, il n'est pas douteux que le contrat a été conclu entre le recourant et l'intimée. Comme un contrat ne fait naître que des obligations et n'a pas d'effet réel, il n'est nullement nécessaire que le bailleur soit propriétaire ou au bénéfice d'un droit réel. Savoir qui est propriétaire des locaux est donc une question sans aucune pertinence. Le recourant ne peut rien déduire d'un contrat qui aurait été conclu le 26 août 2003, soit plus d'une année auparavant, alors qu'il n'était pas partie à cette convention et qu'il s'agit pour lui d'une res inter alios acta. Peu importe dès lors que ce contrat de 2003 soit valable ou non, qu'il désigne ou non correctement les parties ou que les contractants soient convenus ultérieurement d'en supprimer les effets juridiques. Toutes ces questions n'ont aucune pertinence pour constater l'existence d'un contrat conclu le 9 décembre 2004 entre le recourant et l'intimée.
En conséquence, la motivation contenue dans l'arrêt attaqué - qui se réfère à la convention du 9 décembre 2004 et à son avenant du 21 novembre 2005 signés par les parties - est suffisante pour comprendre pourquoi la cour cantonale a admis l'existence d'un contrat entre le recourant et l'intimée; son raisonnement - qui conduit à admettre la légitimation active de la demanderesse - ne saurait être qualifié d'arbitraire.
2.3 A la fin du bail, le fermier doit restituer la chose, avec tous les objets portés à l'inventaire, dans l'état où ils se trouvent (art. 299 al. 1 CO). L'obligation de restitution de la chose à la fin du bail est également prévue pour le locataire (art. 267 al. 1 CO).
La restitution à fin de bail est une obligation du fermier (du locataire). C'est donc à lui qu'il incombe de prendre toutes les mesures nécessaires pour restituer les clés et libérer les locaux. Il a été constaté en fait - sans que l'arbitraire ne soit invoqué à ce propos - que le recourant n'a évacué les locaux des objets qu'il y avait entreposés qu'à fin juin 2007. Même s'il avait perdu les clés, il lui incombait d'en aviser la bailleresse et de lui demander de changer les cylindres des serrures, afin qu'il puisse enlever les objets qui lui appartiennent et que la bailleresse puisse rentrer en possession de la chose affermée (louée). Selon la jurisprudence applicable au bail à loyer, le bailleur peut réclamer une indemnité équivalant au montant du loyer au locataire qui ne restitue pas la chose louée à la fin du bail (<ref-ruling> consid. 2 p. 261; <ref-ruling> consid. 3b/bb p. 441 s.). En matière de bail à ferme, si le fermier ne remplit pas son obligation de restitution, il doit des dommages-intérêts correspondant au montant du fermage pour toute la durée où il n'a pas libéré les locaux, dès lors que la bailleresse les a tenus à sa disposition de la même manière que durant le fermage (cf. <ref-ruling> consid. 2 p. 261 et consid. 2.3 p. 262 s.).
Par ses conclusions, la demanderesse s'est bornée à réclamer le montant mensuel convenu pour la période de juin 2006 à mai 2007 (12 x 1'600 fr. = 19'200 fr.), alors même que les locaux n'ont vraiment été libérés que vers la fin du mois de juin 2007. Il n'est donc pas douteux que le montant alloué a été fixé conformément à la jurisprudence.
Comme le montant du fermage (loyer) est identique au montant des dommages-intérêts, il est sans pertinence de déterminer à quel moment le contrat a pris fin, c'est-à-dire à quel moment le fermage (le loyer) est remplacé par des dommages-intérêts équivalents pour non-restitution de la chose affermée (louée).
Dès lors toute la discussion que le recourant voudrait ouvrir à ce sujet est sans pertinence.
Le recourant n'est pas parvenu à prouver l'existence de l'accord oral avec la propriétaire qu'il alléguait. Quant à l'affirmation selon laquelle la bailleresse aurait pu réduire le dommage, elle ne repose sur aucun fait établi.
La motivation contenue dans l'arrêt attaqué - qui indique la date où le fermage (le loyer) a cessé d'être payé et la date où les locaux ont été libérés - est manifestement suffisante pour comprendre la décision attaquée, de sorte qu'il n'y a pas eu de violation du droit d'être entendu. Par ailleurs, cette décision ne saurait être taxée d'arbitraire.
3. Il résulte des considérants qui précèdent que le recours - qu'il soit considéré comme un recours en matière civile ou comme un recours constitutionnel subsidiaire - doit être rejeté.
Les frais judiciaires et les dépens sont mis à la charge de la partie qui succombe (art. 66 al. 1 et 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 1'500 fr., sont mis à la charge du recourant.
3. Le recourant versera à l'intimée une indemnité de 2'000 fr. à titre dépens.
4. Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton du Valais, Cour civile I.
Lausanne, le 1er mars 2011
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Le Greffier:
Klett Piaget