Faits :
A.
A.a. L'État de Genève (ci-après: le locataire ou le demandeur) a pris à bail, depuis novembre 2002, une surface d'environ 1'000 m2 au rez-de-chaussée d'un immeuble à..., immeuble dont X._ GmbH (ci-après: la bailleresse ou la défenderesse) est devenue propriétaire en 2003.
Jusqu'au 4 avril 2003, le locataire a payé le loyer à A._ (ci-après: la régie). Depuis le 4 avril 2003, il a été invité à le payer directement à la bailleresse, ce qu'il a fait; la régie n'était désormais plus chargée que du suivi technique du bâtiment.
En octobre 2006, à la suite d'un changement de son système informatique, le locataire a versé par erreur le loyer du 4e trimestre 2006 par 86'358 fr. (85'458 fr. + 900 fr.) à la régie. Celle-ci a reconnu le caractère erroné du versement, mais étant elle-même créancière de la bailleresse pour un montant supérieur, elle a refusé de restituer ce montant au locataire.
Le 5 août 2008, la bailleresse a fait notifier au locataire un commandement de payer portant sur le montant de 86'358 fr. avec intérêts à 5% l'an dès le 1er octobre 2006. Le locataire a fait opposition. Par jugement par défaut du 28 septembre 2009, le Tribunal de première instance de Genève a prononcé la mainlevée provisoire de l'opposition au commandement de payer.
A.b. Une première procédure a opposé la bailleresse au locataire.
Le 11 décembre 2009, le locataire a introduit une action en libération de dette contre la bailleresse. Par jugement du Tribunal des baux et loyers du 13 décembre 2010, son action a été rejetée et la mainlevée définitive de l'opposition au commandement de payer à concurrence du montant litigieux et de ses intérêts a été prononcée.
Le locataire s'est acquitté en mains de l'Office des poursuites du montant de 106'372 fr. 70 dû en vertu de ce jugement et la bailleresse a reçu le montant de 105'863 fr. 85 le 8 février 2011.
A.c. Une seconde procédure a opposé la régie à la bailleresse.
Le 23 décembre 2010, la régie a ouvert action contre la bailleresse en paiement du solde de ses créances, indiquant avoir exercé la compensation notamment avec le montant versé par le locataire pour le loyer du 4e trimestre 2006 à hauteur de 86'358 fr., qu'elle avait crédité à la bailleresse.
Par jugement du 5 septembre 2014, le Tribunal de première instance de Genève a considéré notamment que la régie pouvait opposer en compensation à la bailleresse le montant de 86'358 fr. versé par le locataire et a condamné la bailleresse à payer à la régie le solde de 54'240 fr. avec intérêts à 5% l'an dès le 1er juillet 2007. La régie a retiré l'appel qu'elle avait interjeté contre ce jugement, qui est devenu définitif en avril 2015.
Le locataire a reçu une copie du jugement du 5 septembre 2014.
A.d. Une troisième procédure oppose le locataire à la régie (art. 105 al. 2 LTF).
Le 30 mai 2011, le locataire a ouvert contre la régie une action en remboursement du montant qu'il lui avait versé par erreur, devant le Tribunal de première instance de Genève. Cette procédure a par la suite été suspendue jusqu'à droit jugé dans la procédure opposant la régie à la bailleresse.
A.e. Le locataire a encore introduit deux procédures de révision successives du jugement du 13 décembre 2010 (cf. A.b. ci-dessus), après que le Tribunal de première instance a considéré, par jugement du 5 septembre 2014 (cf. A.c. ci-dessus), que le montant versé par erreur par le locataire à la régie avait été valablement crédité de la contre-valeur du loyer versé par le locataire à hauteur de 86'358 fr.
La première demande de révision du 29 octobre 2014 a été déclarée irrecevable par jugement du Tribunal de première instance du 16 février 2015, car le jugement du 5 septembre 2014 était un fait postérieur ne justifiant pas une révision et que, de plus, il faisait l'objet d'un appel (art. 105 al. 2 LTF).
La seconde demande de révision du 12 août 2015 a été déclarée irrecevable par jugement du même Tribunal du 5 octobre 2015, car la révision n'était pas ouverte pour de vrais faits nouveaux.
B.
Par requête de citation en conciliation du 24 août 2015, le locataire a ouvert une action en enrichissement illégitime contre la bailleresse et, ensuite de l'échec de la conciliation, a déposé sa demande devant le Tribunal des baux et loyers le 14 octobre 2015, concluant à ce que la défenderesse soit condamnée à lui payer le montant de 105'863 fr. 85 avec intérêts à 5% l'an dès le 8 février 2011. Le jugement du 5 septembre 2014 ayant reconnu la validité de la compensation du montant de 86'358 fr. crédité sur le compte de la bailleresse, le locataire réclame la restitution du montant versé en janvier 2011 en exécution du jugement du 13 décembre 2010. Il considère que la bailleresse s'est enrichie de manière illégitime puisqu'elle a perçu deux fois le montant du loyer du 4e trimestre 2006.
Par jugement du 9 mars 2016, le Tribunal des baux et loyers a condamné la défenderesse à payer au demandeur le montant de 105'863 fr. 85 avec intérêts à 5% l'an dès le 8 février 2011. En substance, il a rejeté l'exception de l'autorité de chose jugée soulevée par la défenderesse en lien avec le jugement du 13 décembre 2010, considérant que le jugement du 5 septembre 2014 était un fait nouveau postérieur, et a admis que les conditions des art. 62 ss CO étaient réalisées.
Statuant sur l'appel de la défenderesse le 24 avril 2017, la Chambre des baux et loyers de la Cour de justice du canton de Genève l'a rejeté et a confirmé le jugement attaqué. Elle a notamment écarté l'exception d'autorité de chose jugée du jugement du 13 décembre 2010, au motif que la demande en paiement déposée par le locataire reposait sur un complexe de fait différent. Depuis le jugement du 13 décembre 2010, le locataire demandeur avait payé une deuxième fois le loyer du 4e trimestre 2006, alors que la compensation exercée par la régie l'avait déjà fait, ce qui a été admis seulement par jugement du 5 septembre 2014. Pour le reste, la cour cantonale a admis que les conditions de l'art. 62 CO étaient réalisées.
C.
Contre cet arrêt, la bailleresse a interjeté un recours en matière civile au Tribunal fédéral, concluant en substance à sa réforme en ce sens que l'action en enrichissement illégitime soit rejetée. Subsidiairement, elle conclut à son annulation et au renvoi de la cause à la cour cantonale pour nouvelle décision. Elle invoque la violation du principe " ne bis in idem " (art. 59 al. 2 let. e CPC), la violation de l'art. 86 LP et la violation des art. 62 ss CO.
Le locataire conclut au rejet du recours. La bailleresse a encore déposé de brèves observations.
La cour cantonale se réfère aux considérants de son arrêt.
Considérant en droit :
1.
1.1. Interjeté en temps utile (art. 100 al. 1 LTF) par la défenderesse qui a succombé dans ses conclusions en libération (art. 76 al. 1 LTF) contre une décision finale (art. 90 LTF) prise sur appel par le tribunal supérieur du canton (art. 75 LTF), sur une action en enrichissement illégitime de l'art. 62 CO (art. 72 al. 1 LTF), dont la valeur litigieuse est supérieure à 30'000 fr. (art. 74 al. 1 let. b LTF), le recours en matière civile est recevable.
1.2. Les faits ont été complétés sur la base du jugement de première instance (art. 105 al. 2 LTF).
2.
Sous réserve de la violation des droits constitutionnels (art. 106 al. 2 LTF), le Tribunal fédéral applique d'office le droit (art. 106 al. 1 LTF) à l'état de fait constaté dans l'arrêt cantonal ou, cas échéant, à l'état de fait qu'il aura rectifié (art. 97 al. 1, 105 al. 2 LTF). Il n'est pas limité par les arguments soulevés dans le recours ni par la motivation retenue par l'autorité précédente; il peut donc admettre un recours pour d'autres motifs que ceux qui ont été articulés ou, à l'inverse, rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (ATF 135 III 397 consid. 1.4 et l'arrêt cité).
3.
Le demandeur a ouvert une action en enrichissement illégitime qu'il a basée sur l'art. 62 CO contre la défenderesse, pour obtenir la restitution du montant (avec intérêts et frais) qu'il lui avait versé par l'intermédiaire de l'office des poursuites, en exécution du jugement du tribunal des baux et loyers du 13 décembre 2010. Il s'est prévalu de ce que le jugement rendu par le tribunal de première instance le 5 septembre 2014 entre la régie et la bailleresse avait désormais reconnu que le montant du loyer du 4e trimestre qu'il avait versé par erreur à la régie avait valablement été crédité en valeur en 2006 sur le compte de la défenderesse. Pour lui, la défenderesse a donc reçu matériellement deux fois le loyer du 4e trimestre 2006. Tant le Tribunal de première instance que la Chambre des baux et loyers de la Cour de justice ont admis le bien-fondé de cette action et ont condamné la défenderesse à rembourser au demandeur le montant de 105'863 fr. 85 avec intérêts. La défenderesse invoque essentiellement la violation de l'autorité de la chose jugée (et du principe " ne bis in idem ") du jugement du 13 décembre 2010 (cf. art. 59 al. 2 let. e CPC) et conteste que les conditions de l'art. 62 CO soient réalisées.
3.1. A partir du moment où une décision judiciaire (ou un jugement) est en force de chose jugée formelle (formelle Rechtskraft), c'est-à-dire est définitive (parce qu'elle ne peut plus être remise en cause par un appel), elle a l'autorité de la chose jugée (materielle Rechtskraft), en ce sens qu'elle est obligatoire pour les parties et pour les tribunaux. Elle ne peut plus être remise en cause que par la voie qui permet de revoir des décisions judiciaires, à savoir la révision (ATF 127 III 496 consid. 3b/bb).
Un jugement revêtu de l'autorité de la chose jugée ne peut donc pas être remis en cause par un procès en dommages-intérêts (art. 41 ss CO) subséquent par la partie qui allègue que les manoeuvres dolosives de son adversaire ont conditionné ce jugement; le juge de l'action en dommages-intérêts ne saurait en effet examiner, à titre préjudiciel, si la solution retenue dans la décision en force a été conditionnée par le comportement procédural illicite du défendeur à cette action. De même, une action en enrichissement illégitime (art. 62 ss CO; art. 86 LP) ne peut pas remettre indirectement en cause un jugement revêtu de l'autorité de la chose jugée (ATF 127 III 496 consid. 3b/aa).
C'est le rôle de la révision de remédier aux situations extrêmes, telles que la tromperie du juge, où le sentiment de la justice et de l'équité requiert impérativement qu'une décision en force ne puisse pas prévaloir, parce qu'elle est fondée sur des prémisses viciées. Aussi n'est-ce pas trop exiger de la partie lésée par une décision entachée d'un défaut qui est de nature à en justifier la révision qu'elle emprunte cette voie de droit, pour mettre à néant le jugement en force, avant d'ouvrir une action en dommages-intérêts contre son adversaire à qui ce jugement a profité. A défaut d'une telle démarche préalable, cette partie est censée s'accommoder du jugement rendu à son détriment, à l'instar de celle qui n'a pas recouru contre un jugement arbitraire (ATF 127 III 496 consid. 3b/bb).
En conclusion, la remise en cause indirecte d'un jugement par une action est donc inadmissible parce qu'elle viole le principe de l'autorité de la chose jugée matérielle des décisions judiciaires (res judicta pro veritate habetur), lequel veut qu'une décision judiciaire entrée en force ne puisse plus être réexaminée (ne bis in idem), si ce n'est dans le cadre étroit de la révision (ATF 127 III 496 consid. 3a).
3.2. En l'espèce, il est incontesté et incontestable que le versement (2e versement) effectué par le locataire en janvier 2011 l'a été en exécution du jugement du 13 décembre 2010. Ce jugement a l'autorité de la chose jugée et il ne saurait être remis en cause par la voie de l'action en enrichissement illégitime de l'art. 62 CO introduite le 24 août 2015.
Ce 2e versement ne peut pas non plus l'être par la voie de la révision, dès lors que le fait invoqué par le demandeur est postérieur au jugement et que la révision n'est ouverte pour " faits nouveaux " qu'en tant qu'il s'agit de faits antérieurs au premier jugement (pseudo-nova; ATF 143 III 272 consid. 2). D'ailleurs la reconnaissance du fait que le montant du 1er versement avait été valablement crédité en compensation sur le compte de la défenderesse (par le jugement du 5 septembre 2014) n'équivaut pas à un paiement pur et simple puisqu'en réalité, aucun montant n'a été mis à la disposition libre et immédiate de la bailleresse, ce qui exclurait aussi matériellement une révision du jugement du 13 décembre 2010.
La voie légale pour obtenir la restitution d'un montant versé par erreur à un non-créancier est l'action en répétition de l'indu de l'art. 63 al. 1 CO dirigée contre ce dernier en tant que défendeur (ATF 141 IV 71 consid. 3). D'ailleurs, toute autre solution reviendrait à détourner les règles sur la prescription de l'art. 67 CO.
Aux termes de l'art. 63 al. 1 CO, celui qui a payé volontairement ce qu'il ne devait pas ne peut le répéter s'il ne prouve qu'il a payé en croyant, par erreur, qu'il devait ce qu'il a payé et, selon l'art. 67 al. 1 CO, son action se prescrit par un an à compter du jour où il a eu connaissance de son droit de répétition. En l'occurrence, il est constant que le locataire a payé à la régie en octobre 2006, par erreur, un montant de 86'358 fr. correspondant au loyer du 4e trimestre 2006 (1er versement) qu'il ne devait pas à cette dernière, mais à sa bailleresse directement. C'est donc par la voie de l'action en répétition de l'indu que le locataire doit agir pour récupérer le 1er versement; est réservée l'éventuelle garantie de remboursement que la régie aurait fournie au locataire. Il sied de préciser que le locataire n'était pas obligé d'accepter que la régie porte le montant qu'il a versé au crédit de la bailleresse. Il lui a fait ainsi une faveur, puisqu'il lui a permis de conserver le montant versé pour le compenser avec sa propre créance contre la bailleresse, et doit en supporter les éventuelles conséquences.
En conclusion, puisque le jugement du 13 décembre 2010, qui a l'autorité de la chose jugée, ne peut pas être remis en cause par une action en enrichissement illégitime, mais uniquement, si les conditions en sont données, par une révision, ce qui n'est pas le cas en l'espèce, que la condition de l'absence d'autorité de la chose jugée, qui est une condition de recevabilité de la demande, n'est pas réalisée, le demandeur est forclos en vertu de la règle "ne bis in idem ". L'action en enrichissement illégitime contre la bailleresse doit donc être déclarée irrecevable.
3.3. Le recours étant admis par substitution des motifs qui précèdent, il n'y a pas lieu d'examiner les autres critiques de la recourante, ni de répondre aux objections de l'intimé qui n'a fait que répondre aux griefs de la recourante.
4.
Au vu de ce qui précède, le recours doit être admis et l'arrêt attaqué doit être réformé en ce sens que l'action en enrichissement illégitime intentée par le demandeur est irrecevable. Les frais de la procédure fédérale sont mis à la charge de l'intimé (art. 66 al. 1 LTF). La recourante ayant procédé sans avocat, il ne lui sera pas alloué de dépens. Il n'y a pas lieu de renvoyer la cause à la cour cantonale pour nouvelle fixation des frais et dépens des instances cantonales, le droit genevois dispensant les parties de l'obligation de payer des frais judiciaires et de verser des dépens en ce domaine (art. 22 al. 1 LaCC; ATF 139 III 182 consid. 2.6).
Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis et l'arrêt attaqué est réformé en ce sens que l'action en enrichissement illégitime introduite par l'État de Genève contre X._ GmbH le 24 août 2015 est irrecevable.
2.
Les frais judiciaires, arrêtés à 5'000 fr., sont mis à la charge de l'intimé.
3.
Le présent arrêt est communiqué aux parties et à la Cour de justice du canton de Genève, Chambre des baux et loyers.
Lausanne, le 29 janvier 2018
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente : Kiss
La Greffière : Schmidt