Faits:
A. Par contrat du 5 mars 1992, la Société immobilière A._ a cédé à H.X._, moyennant le paiement d'un loyer mensuel, l'usage d'un appartement de huit pièces, comprenant comme dépendances deux caves et un grenier, sis avenue ... à Genève. Ce contrat remplaçait celui que les parties avaient conclu le 27 juin 1988.
En février 1998, Y._ est devenu le propriétaire de l'immeuble en cause et, par voie de conséquence, le bailleur.
Le 6 février 2002, Y._ a notifié à H.X._ et à son épouse F.X._ une résiliation du bail pour le 31 mars 2002 en application de l'<ref-law>.
Ce congé a été déclaré valable par jugement du Tribunal des baux et loyers du canton de Genève du 22 février 2007, confirmé par un arrêt de la Cour de justice du 5 novembre 2007, puis par un arrêt du Tribunal fédéral du 6 mars 2008 (cause 4A_516/2007). En substance, il a été constaté que l'appartement avait été régulièrement sous-loué, la plupart du temps sans en informer le bailleur et à des conditions abusives.
Le locataire n'ayant ni restitué les clés, ni libéré les locaux loués des objets qui s'y trouvaient encore, Y._ a sollicité l'exécution forcée. Par jugement du 3 novembre 2008, le Tribunal des baux et loyers a condamné les époux X._ à évacuer de leur personne et de leurs biens l'appartement concerné. Un recours ayant été interjeté par le locataire contre cette décision, celle-ci fut confirmée par arrêt de la Cour de justice du 20 avril 2009.
Le 5 juin 2009, H.X._ a envoyé au procureur général les clés en sa possession, dont deux étaient cassées et certaines ne permettaient pas d'ouvrir la porte d'entrée de l'appartement. Il a été constaté, lors d'un état des lieux effectué le 21 juillet 2009, qu'il subsistait divers meubles et objets dans les locaux. Finalement, les locaux loués ont été évacués et nettoyés aux frais du bailleur (avec l'accord du locataire) et ces opérations se sont terminées par des travaux de nettoyage effectués les 8 et 9 septembre 2009.
B. Par demande déposée le 15 octobre 2010 devant la Commission de conciliation en matière de baux et loyers, Y._ a conclu à ce que H.X._ et son épouse F.X._ soient condamnés solidairement à lui payer la somme de 66'923 fr. avec intérêts à 5% l'an dès le 1er avril 2008 à titre d'indemnités pour occupation illicite du 1er avril 2008 au 31 juillet 2009 (somme déterminée sur la base du loyer précédemment fixé, soit 4'398 fr. par mois), sous déduction d'un montant qu'il a reconnu devoir à l'ancien locataire, 4'287 fr.10 avec intérêts à 5% dès le 23 septembre 2009 pour les frais de changement de serrure, de nettoyage et de déménagement encourus par lui, ainsi qu'une somme de 2'036 fr.20 correspondant aux frais d'huissier lors de l'état des lieux de sortie.
H.X._ s'est opposé à la demande en totalité. Il a produit des procès-verbaux d'huissiers judiciaires qu'il avait fait dresser en vue de constater l'état de l'appartement et de ses dépendances. En particulier, il a mandaté, les 3 et 30 octobre 2008 (soit après l'arrêt du Tribunal fédéral du 6 mars 2008) une société spécialisée pour examiner l'éventuelle présence d'amiante dans l'appartement. Selon le rapport établi le 5 décembre 2008 par l'expert mandaté, un panneau situé à l'arrière du radiateur du salon contenait de l'amiante; un assainissement devrait être réalisé à court terme, soit d'ici au 5 décembre 2013. H.X._ en tire l'essentiel de son argumentation dans la présente procédure.
La cause n'ayant pas été conciliée, Y._ a saisi le Tribunal des baux et loyers, lequel, par jugement du 11 novembre 2011, a condamné H.X._ à payer à Y._ la somme de 66'923 fr. avec intérêts à 5% l'an dès le 15 novembre 2008 et de 6'323 fr.30 avec intérêts à 5% l'an dès le 3 juillet 2010. Par ailleurs, le tribunal a constaté que l'épouse du locataire, F.X._, n'était pas partie au contrat de bail et qu'elle n'était donc pas la débitrice de Y._; ce point n'est plus contesté. Le tribunal a rejeté une demande reconventionnelle formée par H.X._ qui tendait au remboursement de frais d'huissier ou d'expert en relation avec le déroulement de la procédure.
H.X._ a appelé de ce jugement, concluant au rejet des prétentions pécuniaires de sa partie adverse et à la condamnation de celle-ci à lui payer les sommes réclamées sur demande reconventionnelle. Y._ a conclu à l'irrecevabilité, subsidiairement au rejet de l'appel.
Statuant par arrêt du 18 juin 2012, la Chambre des baux et loyers de la Cour de justice du canton de Genève a réformé le jugement attaqué, d'une part en faisant partir l'intérêt moratoire à compter d'une date moyenne et, d'autre part, en écartant les conclusions de Y._ concernant les frais d'huissier et de remplacement des serrures. Partant, il a condamné H.X._ à payer à Y._ la somme de 66'923 fr. avec intérêts à 5% l'an dès le 1er décembre 2008 et de 3'372 fr.50 avec intérêts à 5% l'an dès le 3 juillet 2010. Il a confirmé le jugement pour le surplus.
C. H.X._ exerce un recours en matière civile au Tribunal fédéral contre l'arrêt cantonal du 18 juin 2012. Invoquant une violation des <ref-law>, 274d al. 3 aCO, de l'art. 2 de l'annexe 1.6 de l'ordonnance sur la réduction des risques liés à l'utilisation de substances, de préparations et d'objets particulièrement dangereux du 18 mai 2005 (ORRChim, RS 814.81), de l'<ref-law>, des art. 97 et 41 CO, de l'<ref-law> et de l'<ref-law>, il conclut, sous suite de frais et dépens, à l'annulation de l'arrêt attaqué, au déboutement de sa partie adverse et à l'admission de sa demande reconventionnelle réduite à 2'022 fr. en capital. Sa requête d'effet suspensif a été acceptée par ordonnance présidentielle du 10 septembre 2012.
L'intimé a conclu au rejet du recours avec suite de frais et dépens.
Les parties ont répliqué et dupliqué.

Considérant en droit:
1. 1.1 Interjeté par une partie qui a succombé dans ses conclusions, à la fois libératoires et condamnatoires, et qui a donc qualité pour recourir (<ref-law>), dirigé contre un arrêt final (<ref-law>) rendu en matière civile (<ref-law>) par un tribunal supérieur statuant sur recours en dernière instance cantonale (<ref-law>), dans une affaire pécuniaire dont la valeur litigieuse, pour ce qui est de la demande principale, atteint le seuil de 15'000 fr. requis en matière de droit du bail (<ref-law>), le recours est en principe recevable, puisqu'il a été déposé dans le délai (art. 46 al. 1 let. b, 48 al. 1 et 100 al. 1 LTF) et la forme (<ref-law>) prévus par la loi. La recevabilité du recours, en ce qui concerne la demande reconventionnelle, sera examinée ultérieurement.
1.2 Le recours peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le recourant peut donc se plaindre d'une violation des normes de droit fédéral qu'il invoque (<ref-law>).
Le Tribunal fédéral applique d'office le droit dont il peut contrôler le respect (<ref-law>). Il n'est donc limité ni par les arguments soulevés dans le recours, ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (<ref-ruling> consid. 4 p. 317 s.; <ref-ruling> consid. 1.4 p. 400). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (<ref-law>), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui (<ref-ruling> consid. 1.3 p. 584; <ref-ruling> consid. 2.2.1 p. 389; <ref-ruling> consid. 1.4 p. 400).
Par exception à la règle selon laquelle il applique le droit d'office, le Tribunal fédéral ne peut entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal que si le grief a été invoqué et motivé de manière précise par la partie recourante (<ref-law>).
1.3 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (<ref-law>). Il ne peut s'en écarter que si les faits ont été établis de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire: <ref-ruling> consid. 4.1.2 p. 62; <ref-ruling> consid. 5.1 p. 356 - ou en violation du droit au sens de l'<ref-law> (<ref-law>).
La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (ATF <ref-ruling> consid. 5.1 p. 356; <ref-ruling> consid. 1.2 p. 187). La partie recourante qui se plaint d'arbitraire dans l'appréciation des preuves doit motiver ce grief d'une manière répondant aux exigences de l'<ref-law> (<ref-ruling> consid. 4.1.2 p. 62). Une rectification de l'état de fait ne peut être demandée que si elle est de nature à influer sur le sort de la cause (<ref-law>). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (<ref-law>).
En l'espèce, le recourant présente son propre état de fait, mais sans exposer de manière précise en quoi les conditions de l'<ref-law> seraient réalisées, de sorte qu'il n'y a pas lieu d'en tenir compte. Le raisonnement juridique doit être mené exclusivement sur la base des faits constatés par la cour cantonale.
1.4 Le Tribunal fédéral ne peut aller au-delà des conclusions des parties (<ref-law>). Toute conclusion nouvelle est irrecevable (<ref-law>). La partie demanderesse peut cependant réduire ses prétentions (<ref-ruling> consid. 3.4.2 p. 365).
2.
2.1 Sur la base des constatations cantonales - qui lient le Tribunal fédéral (<ref-law>) -, la convention passée entre les parties doit être qualifiée de contrat de bail à loyer au sens de l'<ref-law>.
Par un arrêt du 6 mars 2008 (cause 4A_516/2007), le Tribunal fédéral a constaté, avec autorité de chose jugée (<ref-law>), que ce contrat avait été valablement résilié par le bailleur pour le 31 mars 2002.
Il en résulte que le contrat s'est éteint à cette date et que le locataire avait l'obligation, en vertu de l'<ref-law>, de restituer la chose louée dans l'état qui résulte d'un usage conforme au contrat.
Le locataire étant le débiteur de cette obligation de restitution, c'est à lui qu'il appartient, en vertu de l'<ref-law>, de prouver les faits qui permettent de constater qu'il s'est libéré de son obligation (arrêt 4A_41/2011 du 27 avril 2011 consid. 2.1.2 et les auteurs cités).
La restitution n'intervient, au sens de l'<ref-law>, que lorsque le locataire a d'une part restitué les clés et, d'autre part, enlevé les objets qui s'y trouvent et n'appartiennent pas au bailleur (arrêt 4D_128/2010 du 1er mars 2011 consid. 2.3; arrêt 4C.224/1997 du 17 février 1998 consid. 3b; DAVID LACHAT, Le bail à loyer, 2008, chap. 31 n° 7.1 p. 815).
Le locataire devant restituer la chose "dans l'état qui résulte d'un usage conforme au contrat" (<ref-law>), il en a été déduit qu'il avait l'obligation de nettoyer les locaux pour leur restitution (LACHAT, op. cit., chap. 31 n° 5.2 p. 808).
Si le locataire ne restitue pas les locaux à fin de bail, il doit au bailleur une indemnité pour occupation illicite déterminée selon le loyer convenu. L'absence de restitution constitue la violation d'une obligation contractuelle (celle résultant de l'<ref-law>) et donne lieu à des dommages-intérêts en application de l'<ref-law>. Pour éviter que le locataire qui se maintient sans droit dans les locaux soit mieux traité que si le bail durait encore, la jurisprudence constante, inspirée du droit allemand, a admis que l'indemnité devait correspondre au loyer convenu, sans que le bailleur n'ait à prouver qu'il aurait pu relouer immédiatement les locaux pour un loyer identique (<ref-ruling> consid. 2 et 2.1 p. 261 et les arrêts cités). La question d'une relocation, soulevée par le recourant, est donc sans pertinence.
Il résulte des constatations cantonales - au sujet desquelles l'arbitraire n'est pas invoqué (cf. art. 105 al. 2 et 106 al. 2 LTF) - que le bailleur n'est entré en possession des locaux évacués et nettoyés qu'au début septembre 2009. Sachant que le contrat a pris fin le 31 mars 2002, la somme allouée, calculée sur le dernier loyer convenu, pour la période allant du 1er avril 2008 au 31 juillet 2009, a été fixée sans violer le droit fédéral (l'occupation de la période antérieure avait déjà été indemnisée). L'octroi d'un intérêt au taux légal à compter d'une date moyenne n'est pas critiqué par le recourant et on ne voit pas en quoi la cour cantonale aurait violé sur ce point le droit fédéral.
Le locataire ayant l'obligation de vider et nettoyer les locaux comme on l'a vu, le bailleur peut aussi réclamer, avec intérêts, le remboursement des frais qu'il a dû assumer en raison du fait que le locataire n'a pas exécuté son obligation (<ref-law>).
L'admission de la demande principale paraît donc en tous points conforme au droit fédéral.
2.2 Invoquant une violation des <ref-law> et de l'ancien <ref-law>, le recourant reproche aux juridictions cantonales de ne pas avoir ordonné une expertise sur la question de l'amiante.
Ni l'<ref-law> ni l'ancien <ref-law> n'obligent le juge à ordonner des mesures probatoires inutiles ou à rechercher des faits qui ne sont même pas allégués et dont il n'y a aucune raison de supposer l'existence.
Le recourant a fait examiner par un spécialiste s'il y avait de l'amiante dans l'appartement loué. Celui-ci a constaté qu'il y en avait dans un panneau situé à l'arrière du radiateur du salon et qu'un assainissement devait être prévu dans un certain délai, soit d'ici au 5 décembre 2013. La cour cantonale a entièrement repris ces faits. On ne voit pas ce qu'une expertise pourrait ajouter. Il n'y a aucune raison de penser que le spécialiste n'a pas détecté toute l'amiante se trouvant dans l'appartement et le recourant ne démontre pas avoir allégué avec précision dans la procédure cantonale qu'il y en aurait eu ailleurs, notamment dans la cave ou le grenier. Ainsi, le recourant a pu produire ses preuves, soit cette expertise privée, et on ne voit pas en quoi, à lire le recourant, l'administration des preuves serait insuffisante.
Ce premier grief est donc dépourvu de toute consistance.
2.3 Le recourant invoque une violation de l'art. 2 annexe 1.6 de l'ordonnance sur la réduction des risques liés à l'utilisation de substances, de préparations et d'objets particulièrement dangereux du 18 mai 2005 (ORRChim; RS 814.81). Il fonde son argumentation sur l'art. 2 let. b de cette annexe qui prévoit qu'il est interdit "de mettre sur le marché des préparations et des objets contenant de l'amiante".
On ne peut pas déduire de ce texte qu'il est interdit de louer un appartement alors que celui-ci est déjà sur le marché du logement en tout cas depuis 1988, soit bien avant l'entrée en vigueur de cette annexe.
Aucun des deux spécialistes mandatés par chacune des parties n'a affirmé que le logement était impropre à l'habitation. Le recourant n'invoque aucune disposition du droit administratif qui permettrait de le constater. Il a certes été indiqué qu'il fallait procéder à un assainissement dans un certain délai, mais cela ne permet en aucune façon de déduire que les locaux sont inutilisables dans l'intervalle. Si tel était le cas, on ne voit pas pourquoi un délai d'adaptation serait prévu; on doit au contraire déduire de cette prise de position que la situation ne présente pas un caractère d'extrême urgence.
Il est notoire qu'il ne faut pas toucher, sans un équipement spécial, des éléments en amiante, afin d'éviter qu'il ne s'en dégage une poussière dont l'inhalation est extrêmement dangereuse pour l'être humain. On ne voit pas que l'usage normal d'un appartement et même le déménagement de meubles doivent conduire à s'attaquer à un panneau situé derrière un radiateur. L'état de fait qui lie le Tribunal fédéral (<ref-law>) ne permet en aucun cas de constater l'existence du danger extrême et imminent décrit par le recourant.
On ne voit donc pas qu'une disposition du droit administratif fédéral ait été violée.
2.4 Le recourant se plaint d'une violation de l'<ref-law> qui prévoit que le contrat est nul s'il a pour objet une chose illicite.
On ne voit cependant pas quelle disposition légale interdisait en l'espèce de louer ou de relouer les locaux en cause. Ce grief est donc dépourvu de tout fondement. De surcroît, comme on l'a vu, l'indemnité pour occupation illicite doit être allouée indépendamment de savoir à quelle date et à quelles conditions le bailleur aurait pu relouer les locaux.
2.5 Invoquant les art. 97 et 41 CO, le recourant soutient qu'il n'a commis aucune faute.
S'agissant de l'inexécution d'une obligation contractuelle (résultant de l'<ref-law>), la faute est présumée et il incombait au recourant de prouver qu'aucune faute ne lui est imputable (<ref-law>).
Dès l'arrêt rendu par le Tribunal fédéral le 6 mars 2008, le locataire savait, de manière définitive, que le contrat avait pris fin et qu'il devait en conséquence restituer la chose louée. On ne voit pas ce qui l'en empêchait, surtout qu'il ignorait à l'époque la présence de l'amiante dans le panneau derrière le radiateur. Le recourant n'a donc nullement établi qu'il s'est trouvé en demeure sans faute de sa part. Lorsqu'il a eu connaissance de la présence d'amiante dans ce panneau, cela ne l'empêchait pas, comme on l'a vu, de vider les locaux, de les nettoyer selon l'usage courant et de restituer les clés. Ainsi, le recourant n'a nullement prouvé l'absence de faute.
2.6 Invoquant une demeure du créancier au sens de l'<ref-law>, le recourant soutient que le bailleur devait préalablement désamianter l'appartement avant qu'il ne doive le libérer.
Ainsi qu'on l'a vu, il ne ressort pas des constatations cantonales que l'appartement devait être assaini immédiatement et qu'il présentait un danger grave et imminent au moment de le vider et de le nettoyer. Ainsi, le grief est privé de tout fondement dans les faits. Il apparaît que le bailleur n'avait aucune incombance à ce sujet et que c'est bien le locataire qui se trouvait en demeure d'exécuter son obligation découlant de l'<ref-law>.
2.7 Pour terminer, le recourant s'en prend au rejet de sa demande reconventionnelle. Il réduit toutefois sa prétention au remboursement de ses frais d'expertise en relation avec le problème de l'amiante.
Sous l'angle des art. 53 et 74 al. 1 let. b LTF, on peut douter de la recevabilité du moyen soulevé en rapport avec la demande reconventionnelle (sur l'ensemble de la question: JEAN-MAURICE FRÉSARD, in Commentaire de la LTF, 2009, n° 7 ss ad <ref-law>). La question peut toutefois rester indécise en l'espèce. Quoi qu'il en soit, le grief formulé à ce propos ne pourrait être que rejeté. En effet, il n'existe aucune disposition légale permettant de faire supporter à la partie adverse des frais d'investigations entreprises unilatéralement et qui se révèlent, comme on l'a vu, inutiles et sans pertinence.
Le recourant n'invoque d'ailleurs dans ce contexte qu'une violation de l'<ref-law>. Or, cette disposition ne concerne que l'hypothèse d'un possesseur de bonne foi. A la suite de l'arrêt rendu par le Tribunal fédéral le 6 mars 2008, le recourant savait de manière définitive que le bail avait pris fin et qu'il n'était plus en droit de rester dans les locaux. Il n'était donc plus un possesseur de bonne foi au sens de l'<ref-law> lorsqu'il a décidé, en octobre 2008, de mandater un spécialiste pour rechercher la présence d'amiante dans l'appartement, manifestement dans le but d'allumer un contre-feu.
3. Il résulte des considérations qui précèdent que le recours doit être entièrement rejeté dans la mesure de sa recevabilité.
Les frais judiciaires et les dépens sont mis à la charge de la partie qui succombe (art. 66 al. 1 et 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 4'000 fr., sont mis à la charge du recourant.
3. Le recourant versera à l'intimé une indemnité de 5'000 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux parties et à la Cour de justice du canton de Genève, Chambre des baux et loyers.
Lausanne, le 4 décembre 2012
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
Le Greffier: Piaget