Faits :
A.
A.a. Par contrat du 21 octobre 1982 tout d'abord, puis par nouveau contrat du 28 mars 1988, A._ et B._ ont pris à bail des locaux commerciaux situés au 2e étage d'un immeuble à Genève, soit 5 pièces d'une surface totale de 138 m 2, destinées à l'usage d'un cabinet dentaire pour une durée de 10 ans, du 1er novembre 1988 au 31 octobre 1998, se renouvelant ensuite tacitement d'année en année sauf préavis de résiliation six mois avant l'échéance. Le loyer fixé par le contrat de 1988 était de 1'690 fr. par mois (20'280 fr. par an), charges non comprises; depuis le 1er décembre 1997, il était de 2'186 fr. par mois (26'232 fr. par an), charges non comprises (complètement selon l'art. 105 al. 2 LTF).
Par contrats des 12 juillet 1991 et 15 décembre 1995, les locataires ont encore pris à bail deux places de parking.
A.b. X._ (ci-après: le bailleur), qui était propriétaire de 1/12 de l'immeuble depuis plusieurs années (par succession) a d'abord racheté la part de 1/12 de sa soeur pour le prix de 738'700 fr. le 28 juin 2006, puis les 10/12 restants pour le prix de 6'876'277 fr. 75 le 22 janvier 2007.
L'immeuble comprend une arcade au rez-de-chaussée, des bureaux au 1er étage, le cabinet dentaire des locataires au 2e étage, des bureaux au 3e étage et deux appartements aux 4e et 5e étages, le 5e étage, ainsi que les combles étant réservés à l'usage personnel du bailleur.
A.c. Le 3 octobre 2007, le bailleur a notifié aux locataires une hausse de loyer à 42'000 fr. du 1er mai 2008 au 30 avril 2009, à 48'000 fr. du 1er mai 2009 au 30 avril 2010 et de 55'200 fr. du 1er mai 2010 au 30 avril 2011, avec indexation pour la suite, indiquant comme motif les loyers comparatifs (art. 269a let. a CO). Les locataires ont contesté cette hausse de loyer et ont également demandé la réduction du loyer au motif de la diminution du taux hypothécaire et des charges d'exploitation (complètement selon l'art. 105 al. 2 LTF). Par jugement du 31 mars 2009, le Tribunal des baux et loyers a fixé le loyer à 1'901 fr. par mois (22'812 fr. par an), charges non comprises, à compter du 1er mai 2008, ce qui a été confirmé par la Cour de justice le 18 janvier 2010.
Le loyer des places de parking a été fixé pour la première à 250 fr. par mois (3'000 fr. par an) dès le 1er août 2008 et pour la seconde à 277 fr. par mois (3'324 fr. par an) dès le 1er mars 2009, par jugement du Tribunal des baux du 31 mars 2009, confirmé par arrêt de la Cour de justice du 18 janvier 2010.
A.d. Entre mai 2011 et 2012, le propriétaire bailleur a fait installer un ascenseur, ce qui a nécessité un important travail d'assainissement de la dalle du sous-sol et des travaux à tous les étages, y compris au 5e étage et dans les combles. Des travaux de rénovation ont également été réalisés dans les bureaux du 1er étage et dans l'arcade du rez-de-chaussée.
Le 2e étage n'a fait l'objet que de travaux d'entretien: la réfection de la peinture des WC et du plafond du cabinet de l'hygiéniste, des retouches sur les boiseries du corridor, puis la réfection de la peinture du cabinet de l'hygiéniste et des menus travaux sur les boiseries et les portes.
B.
B.a. Le 30 septembre 2013, le bailleur a résilié le bail du cabinet dentaire pour le 30 avril 2014; sur demande des locataires, il a indiqué que la résiliation était motivée par un rendement insuffisant de la chose louée. A la même date, il a également résilié le bail des places de parking.
Par requête de conciliation adressée à la Commission de conciliation en matière de baux et loyers du canton de Genève, les locataires ont ouvert action en contestation de ces résiliations. A la suite de l'échec de la conciliation, ils ont déposé leur demande devant le Tribunal des baux et loyers le 15 mai 2015, concluant principalement à leur annulation et subsidiairement à une prolongation des baux de 6 ans.
Le bailleur a conclu au rejet et, reconventionnellement, à l'expulsion des locataires tant du local commercial que des places de parking. Les locataires ont conclu à l'irrecevabilité de la demande reconventionnelle et subsidiairement à son rejet.
Statuant le 13 janvier 2017, le Tribunal des baux et loyers a admis la demande et annulé les résiliations des baux. Il a considéré que le bailleur n'a pas pu démontrer que le loyer actuel des locataires pourrait être augmenté en vertu de la méthode absolue, à savoir sur la base d'un calcul de rendement net, faute d'avoir produit les pièces nécessaires et apporté des explications suffisantes pour la réalisation de ce calcul, de sorte que les congés donnés pour motif économique devaient être considérés comme contraires aux règles de la bonne foi.
Par arrêt du 5 mars 2018, la Chambre des baux et loyers de la Cour de justice du canton de Genève a, sur le fond, rejeté l'appel du bailleur et confirmé le jugement de première instance. La cour cantonale a jugé que l'administration d'une expertise pour déterminer les éléments nécessaires au calcul du rendement admissible était superflue dès lors que le calcul de rendement net effectué sur la base des chiffres allégués par le bailleur ne permettait pas d'augmenter le loyer et que, partant, les congés pour motifs économiques devaient être annulés.
B.b. La résiliation que le bailleur avait notifiée aux locataires le 12 juin 2014, avec effet respectivement au 30 avril 2015 pour le cabinet et au 31 janvier et 28 février 2015 pour les places de parking, au motif que les locataires avaient refusé de lui communiquer l'intégralité des accords passés avec le sous-locataire, a été déclarée inefficace par arrêt du Tribunal fédéral du 10 novembre 2016 (4A_347/2016).
C.
Contre l'arrêt du 5 mars 2018, le bailleur a interjeté un recours en matière civile au Tribunal fédéral le 23 avril 2018. Il conclut principalement au rejet de la demande en annulation des congés et en prolongation des baux, ainsi qu'à l'admission de sa demande en expulsion des locataires, avec autorisation de mettre en oeuvre la force publique dès l'entrée en force de l'arrêt du Tribunal fédéral; subsidiairement, il conclut à la constatation que le loyer des locaux ne lui procure pas un rendement excessif et au renvoi de la cause à la cour cantonale pour décision dans le sens des considérants; plus subsidiairement, il conclut à la constatation que la cour cantonale aurait dû ordonner une expertise portant sur le coût d'acquisition de l'immeuble, sur sa surface au sol, sur la surface des locaux loués par les locataires intimés, sur le coût des travaux effectuées entre 2011 et 2015 et sur le rendement admissible de l'immeuble, avec renvoi de la cause à la cour cantonale pour décision dans le sens des considérants; plus subsidiairement encore, il conclut en substance à son annulation en application de l'art. 112 LTF.
Les locataires intimés concluent principalement au rejet du recours et subsidiairement à l'octroi d'une prolongation de leurs baux (locaux commerciaux et deux places de parking) jusqu'au 30 avril 2020, respectivement 31 janvier 2020 et 28 février 2020.
Les parties ont encore déposé chacune de brèves observations.
La cour cantonale se réfère aux considérants de son arrêt.
Considérant en droit :
1.
1.1. Interjeté en temps utile (art. 100 al. 1 LTF), compte tenu des féries de Pâques (art. 46 al. 1 let. a LTF) et de l'échéance du délai un samedi (art. 45 al. 1 LTF), par le bailleur qui a succombé dans ses conclusions (art. 76 al. 1 LTF), contre une décision finale (art. 90 LTF) rendue sur appel par le tribunal supérieur du canton (art. 75 LTF), dans une affaire de bail (art. 72 al. 1 LTF), dont la valeur litigieuse est supérieure à 15'000 fr. (art. 74 al. 1 let. a LTF), le recours en matière civile est recevable au regard de ces dispositions.
1.2. La résiliation qui est l'objet de la présente procédure est celle donnée par le bailleur le 30 septembre 2013. La précédente procédure judiciaire de hausse de loyer (fondée sur les loyers comparatifs) s'étant terminée le 10 janvier 2010, le délai de trois ans de l'art. 271a al. 1 let. e CO est respecté. La résiliation litigieuse étant antérieure au congé extraordinaire fondé sur l'art. 257f al. 3 CO, qui a été traité en premier lieu par les juridictions genevoises et a fait l'objet de l'arrêt 4A_347/2016 du 10 novembre 2016, l'art. 271a al. 1 let. e CO ne peut y faire obstacle.
2.
Saisi d'un recours en matière civile, le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Cela ne signifie pas que le Tribunal fédéral examine, comme le ferait un juge de première instance, toutes les questions juridiques qui pourraient se poser. Compte tenu de l'obligation de motiver imposée par l'art. 42 al. 2 LTF, il ne traite que les questions qui sont soulevées devant lui par les parties, à moins que la violation du droit ne soit manifeste (ATF 140 III 115 consid. 2 p. 116; arrêts 4A_508/2016 du 16 juin 2017 consid. 2.2, non publié aux ATF 143 III 348; 4A_357/2015 du 4 décembre 2015 consid. 1.4). Toutefois, même lorsqu'une question est discutée par les parties, le Tribunal fédéral n'est pas lié par l'argumentation juridique développée par celles-ci ou par l'autorité précédente; il peut admettre le recours, comme il peut le rejeter en procédant à une substitution de motifs (ATF 140 III 86 consid. 2; 135 III 397 consid. 1.4; 134 III 102 consid. 1.1 p. 104; 133 III 545 consid. 2.2).
3.
Le bailleur recourant conclut tout d'abord à l'annulation de l'arrêt attaqué et au renvoi de la cause à la cour cantonale pour violation de l'art. 112 al. 1 let. b LTF. Il reproche à la cour cantonale de n'avoir fait que reproduire, sans statuer sur elles, les allégations de fait des parties sur plusieurs points.
Comme le bailleur recourant l'indique lui-même, la cour cantonale a procédé à un raisonnement hypothétique, effectuant le calcul du rendement net selon la méthode absolue en prenant pour base les chiffres allégués par le bailleur lui-même, comme s'ils étaient prouvés. Il s'ensuit que son grief est manifestement infondé, la cour cantonale n'ayant pas l'obligation de constater des faits non nécessaires pour statuer sur le sort du litige.
4.
Le bailleur recourant reproche à la cour cantonale de ne pas avoir établi les faits et notamment ordonné une expertise pour prouver les chiffres qu'il allègue, en violation de l'art. 29 Cst., de l'art. 6 CEDH et des art. 183 et 247 CPC.
Dès lors que la cour cantonale a effectué un calcul hypothétique sur la base des faits allégués par le bailleur, qu'elle a constaté qu'un loyer plus élevé que le loyer actuel n'était pas admissible et, partant, que le congé pour motif économique devait être annulé, il ne peut lui être reproché ni une violation dans l'établissement des faits, ni une violation du droit à la preuve par expertise.
5.
5.1. Sur demande des locataires, le bailleur a indiqué que la résiliation ordinaire des baux (des locaux commerciaux et des deux places de parking) qu'il avait signifiée le 30 septembre 2013 était motivée par un rendement insuffisant, motif auquel le bailleur est lié (puisque la résiliation vise à lui permettre d'augmenter le loyer, cf. arrêt 4A_347/2017 du 21 décembre 2017 consid. 5.2.1 in fine; ATF 141 III 245 consid, 3.3; 118 II 130 consid. 2a).
Il s'agit-là d'une résiliation pour motif économique qui, conformément aux règles générales (art. 271 et 271a CO), n'est annulable que si elle se révèle incompatible avec les règles de la bonne foi (arrêts 4A_293/2016 du 13 décembre 2016 consid. 5.2.3 non publié aux ATF 143 III 15; 4A_475/2015 du 19 mai 2016 consid. 4.3).
La résiliation donnée par le bailleur pour optimiser le rendement de son bien ( Ertragsoptimierungskündigung), c'est-à-dire pour obtenir d'un nouveau locataire un loyer plus élevé, mais non abusif, ne constitue pas, en règle générale un abus de droit. Une restriction au libre exercice du droit de résiliation ne peut être déduite abstraitement de la loi, mais doit découler des rapports spécifiques qui unissent les parties au contrat de bail et elle trouvera, le cas échéant, sa justification dans la confiance que l'un des partenaires contractuels aura pu éveiller chez l'autre. La résiliation ne doit pas servir de prétexte à la poursuite d'un but illicite: il faut que le bailleur soit en mesure d'exiger d'un nouveau locataire un loyer supérieur à celui payé jusque-là par le preneur congédié. En d'autres termes, le congé est annulable si l'application de la méthode de calcul absolue permet d'exclure l'hypothèse que le bailleur puisse majorer légalement le loyer, parce que celui-ci est déjà conforme au prix du marché ou lui procure un rendement suffisant. Une telle situation tombe sous le coup de l'interdiction de l'abus de droit. Exceptionnellement, selon les circonstances, même la résiliation donnée pour obtenir un rendement plus élevé, mais non abusif, pourra être constitutive d'abus de droit lorsque, par exemple, le bailleur ne dispose que d'une réserve de hausse insignifiante et n'en fait pas moins usage afin de se débarrasser commodément, par ce biais, d'un locataire qui ne lui convient plus. Il s'agit uniquement pour le juge de déterminer si une augmentation est possible en application de la méthode absolue, non pas de se prononcer sur le caractère abusif ou non d'une augmentation déterminée, ni de fixer le loyer maximal non abusif. Ces principes ont été confirmés dans les ATF 136 III 74 consid. 2.1 et 136 III 190 consid. 2 (cf. aussi les arrêts 4A_293/2016 du 13 décembre 2016 consid. 5.2, non publié aux ATF 143 III 15; 4A_475 /2015 déjà cité consid. 4.3; 4A_211/2015 du 8 décembre 2015 consid. 2).
Il découle de cette jurisprudence que le bailleur a notamment la possibilité de résilier de manière ordinaire un contrat de bail lorsque le loyer actuel très avantageux ne procure pas au bailleur un revenu correspondant au rendement net admissible (art. 269 CO; ATF 122 III 257 consid. 3a; 141 III 245 consid. 6.3 p. 252) ou aux loyers usuels dans la localité ou le quartier (art. 269a let. a CO; ATF 141 III 569 consid. 2).
5.2. En vertu de l'art. 269 CO, le loyer est abusif lorsqu'il permet au bailleur d'obtenir un rendement excessif de la chose louée. Le rendement visé par cette disposition est le rendement net des fonds propres investis; le loyer doit, d'une part, offrir un rendement raisonnable par rapport aux fonds propres investis et, d'autre part, couvrir les charges immobilières (ATF 141 III 245 consid. 6.3 et les références citées).
Le calcul du rendement net s'effectue selon la méthode absolue: le loyer est contrôlé sur la base de la situation financière de la chose louée à un moment donné, sans égard aux accords antérieurs passés avec le locataire (lesquels ne sont pris en considération que dans l'application de la méthode relative).
5.2.1. Seul est déterminant le rendement de la chose louée, soit celui du logement ou du local commercial en cause, à l'exclusion du rendement de l'immeuble entier, voire d'un groupe d'immeubles (ATF 125 III 421 consid. 2d; 120 II 100 consid. 6c). En effet, en cas de disparité entre les loyers des différents appartements ou locaux, résultant par exemple de hausses de loyers intervenues à l'occasion de changements successifs de locataires ou à la suite de rénovations de certains logements, le calcul du rendement sur l'immeuble entier conduirait à des résultats choquants (DAVID LACHAT, Le bail à loyer, 2008, p. 426).
5.2.2. Dans la pratique toutefois, comme les comptes sont établis pour l'immeuble entier, on commence par déterminer la situation financière de l'immeuble et ce n'est qu'ensuite qu'on ventile le résultat appartement par appartement selon une clé de répartition (LACHAT, op. cit., p. 427).
Il découle de la jurisprudence qu'il y a lieu de procéder en 7 étapes:
1° Il faut déterminer tous les coûts d'investissement effectifs (ou le prix de revient) de l'immeuble, sans égard à la date de ces investissements (ATF 142 III 568 consid. 2.1; 141 III 45 consid. 6.6) : il convient de prendre en compte le prix d'acquisition et le coût de la construction ou le prix d'achat de l'immeuble construit, ainsi que les travaux à plus-value (à l'exclusion des coûts d'entretien, qui sont intégrés dans les charges, cf. ATF 141 III 245 consid. 6.6). Il n'est pas possible de substituer aux coûts d'investissement d'autres valeurs plus ou moins abstraites, telles que la valeur vénale de l'immeuble, sa valeur fiscale ou sa valeur d'assurance-incendie, celles-ci se référant à des valeurs objectives liées au marché et non aux coûts concrets (ATF 142 III 568 consid. 2.1; 122 III 257 consid. 3b p. 259 s.). Un prix d'achat manifestement exagéré doit être réduit au prix normal (cf. art. 269 in fine CO et art. 10 OBLF; arrêt 4A_465/2015 du 1er mars 2016 consid. 4.2; ATF 125 III 421 consid 2b). La jurisprudence admet également un correctif au prix d'acquisition lorsque le bailleur a acquis le bien à un prix préférentiel, par exemple dans le cadre d'une donation mixte, au motif que l'avantage consenti à celui-ci est destiné exclusivement à le favoriser lui, et non pas ses locataires (arrêt 4A_645/2011 du 27 janvier 2012 consid. 3.4.4 et les arrêts cités).
2° Il faut déduire des coûts d'investissement effectifs les fonds empruntés (fonds étrangers), ce qui permet d'obtenir le montant des fonds propres investis ( investierte Eigenmittel; capitale proprio investito).
3° Le montant des fonds propres doit être réévalué pour tenir compte du renchérissement (art. 269a let. e CO) entre le moment où ils ont été investis et le moment de la notification de la hausse de loyer, respectivement de la résiliation pour motif économique, ou de la demande de diminution de loyer: les fonds propres investis sont réévalués en fonction de l'évolution de l'indice suisse des prix à la consommation entre ces deux dates (augmentation en % de l'ISPC). Toutefois, lorsque l'immeuble est franc d'hypothèques ou que les fonds étrangers sont inférieurs à 60% du prix de revient, le montant objet de la réévaluation est plafonné aux 40% du prix de revient de l'immeuble, qui sont exposés aux risques (cf. art. 16 OBLF; ATF 120 II 100 consid. 5; 123 III 171 consid. 6a; 120 II 110 consid. 5 p. 101 ss; arrêt 4A_465/2015 précité consid. 4.4.1). Cette adaptation forfaitaire au renchérissement de 40% s'applique ainsi également si l'immeuble a été financé entièrement par les fonds propres. Ce sont donc les fonds propres effectifs inférieurs à 40% du prix de revient ou, s'ils sont supérieurs, les fonds propres théoriques de 40%, qui sont multipliés par l'augmentation en % de l'ISPC (pour ce calcul, cf. ATF 123 III 171 consid. 5a; LACHAT, op. cit., p. 432 à 434).
4° Il y a lieu d'appliquer à ces fonds propres investis réévalués le taux de rendement admissible, qui se définit par le taux d'intérêt hypothécaire de référence augmenté de 0,5 pour cent, de façon à obtenir le rendement admissible des fonds propres réévalués (ATF 142 III 568 consid. 2.1; 141 III 245 consid. 6.3; 122 III 257 consid. 3a).
5° A ce rendement admissible des fonds propres, il faut ajouter les charges immobilières annuelles, soit les charges financières (en particulier les intérêts hypothécaires dus sur les emprunts), les charges courantes (ou d'exploitation; impôts, primes d'assurances, frais de gérance, etc) et les charges d'entretien (142 III 568 consid. 2.1; 141 III 245 consid. 6.3 in fine; arrêt 4A_211/2015 précité consid. 3.1), pour obtenir l'état locatif annuel admissible.
6° Il s'agit ensuite de ventiler ce résultat appartement par appartement pour obtenir le loyer admissible de la chose louée en cause. Généralement, on ventile au pro rata de la surface, du volume des logements ou du nombre de pièces.
Il est parfois difficile de trouver une clé de répartition, par exemple lorsque le bailleur a procédé à la rénovation de certains logements ou locaux, à l'exclusion d'autres, ou que les travaux ont été réalisés à des moments différents (au sujet de la répartition du coût d'un ascenseur, cf. ATF 125 III 421 consid. 2d; LACHAT, op. cit., p. 427). Lorsque les travaux à plus-value (i.e les prestations supplémentaires) bénéficient à tous les locataires, la clé de répartition choisie doit tenir compte de la mesure dans laquelle chaque locataire en profite. Lorsqu'un ou certains locataires bénéficient seuls des travaux à plus-value, il faudra ventiler ceux-ci, en fonction des factures des entreprises, par logement ou local commercial (LACHAT, op. cit., n. 5.2.3 p. 486). Les mêmes principes sont aussi valables dans l'application de la méthode relative (ATF 139 III 209 consid. 2.1). Lorsque la clé de répartition choisie par le bailleur ne répercute pas les coûts selon ces principes, elle est insoutenable et le juge appliquera le système qu'il jugera équitable (ATF 139 précité loc. cit.).
7° Il faut enfin comparer le loyer admissible pour la chose louée ainsi obtenu avec le loyer actuel, ce qui permettra de déterminer si une majoration du loyer est possible ou non.
5.3. La cour cantonale a effectué le calcul du rendement net en se basant sur les chiffres allégués par le bailleur.
En bref, elle a (1°) établi le prix de revient de l'immeuble, en tenant compte du prix d'achat et des travaux à plus-value que représente l'installation de l'ascenseur et l'assainissement du sous-sol. Elle a refusé de prendre en considération les travaux (à plus-value) de l'aménagement du 5e étage et des combles (par 888'194 fr.), au motif que les demandeurs, locataires du 2e étage, ne tiraient aucun avantage de ces travaux. Le recourant conteste ce dernier point (cf. consid. 5.4.1). La cour cantonale a (2°) déduit les montants des fonds empruntés, excluant toutefois l'emprunt de 112'000 fr. constitué postérieurement à la date de la notification du congé. Elle a ainsi arrêté le montant des fonds propres avant réévaluation à 4'804'782 fr. 35. Elle a ensuite (3°) réévalué les fonds propres sur la base des allégations du bailleur en y appliquant un indice suisse des prix à la consommation pondéré et arrêté les fonds propres après réévaluation à 4'890'084 fr. 28. Puis elle y a (4°) appliqué le taux de l'intérêt hypothécaire de référence au moment du congé de 2%, auquel elle a ajouté le 0,5%, pour parvenir à un rendement admissible des fonds propres réévalués de 122'252 fr. 11. Elle y a ensuite (5°) ajouté les charges immobilières et est parvenue à un état locatif admissible de 325'157 fr. 33. Elle a alors (6°) ventilé ce résultat selon une clé de répartition qui tient compte différemment des m2 de l'arcade, des m2 des étages et des places de parking et en prenant en considération les loyers actuels au m2 pratiqués par le bailleur, retenant un pourcentage de 9,83% pour le 2e étage, puis pour les places de parking litigieux. Finalement, elle a constaté que le loyer admissible pour les objets loués était inférieur au loyer actuel payé (-5,27%), de sorte qu'aucune hausse de loyer n'était possible et que le jugement attaqué devait être confirmé.
5.4. Le recourant reproche à la cour cantonale d'avoir violé l'art. 269 CO, en appliquant mal la méthode du rendement net sur trois points, sans même indiquer les chiffres qu'il conteste et quelle conséquence chiffrée l'admission de chacun de ses griefs entraînerait sur le sort de la cause, se limitant à proposer un autre calcul. A supposer qu'une telle critique soit recevable, le Tribunal fédéral n'examine que les seuls griefs motivés (art. 42 al. 2 LTF).
5.4.1. Premièrement, le recourant reproche à la cour cantonale d'avoir écarté les travaux (à plus-value) de l'aménagement du 5e étage et des combles.
La cour cantonale a considéré que les travaux du 5e étage et des combles ascendaient à 897'502 fr. 35 et elle a arrêté à 888'194 fr. les travaux à plus-value et à 9'308 fr. 35 la part d'entretien concernant l'ensemble de l'immeuble. Comme on l'a vu, la cour cantonale a écarté ce poste de 888'194 fr. au motif que les locataires du 2e étage ne tirent aucun avantage des travaux d'aménagement du 5e étage et des combles. Ces deux objets, qui sont occupés par le bailleur lui-même, ont fait l'objet d'une rénovation importante (au vu du prix des travaux) alors que les locaux du 2e étage n'ont fait l'objet que de travaux d'entretien (essentiellement de peinture).
En tant qu'il reproche à la cour cantonale d'avoir évoqué l'ATF 139 III 209 consid. 2.1 à l'appui de sa motivation, arrêt qui traitait de travaux effectués dans tout l'immeuble et seulement dans le cadre de l'art. 269a let. b CO, le recourant se méprend sur la nature des méthodes relative et absolue: les critères de fixation de l'art. 269a let. a à f CO ne s'appliquent pas seulement dans la méthode relative, mais doivent être observés également dans la méthode absolue; la méthode relative se distingue de la méthode absolue uniquement en tant qu'elle prend en considération les accords antérieurs passés par les parties (cf. ATF 120 II 100 consid. 5c).
Lorsque le recourant affirme qu'" en tout état, le remplacement des fenêtres dans les toits, l'isolation de la toiture, la pose de stores, les travaux d'électricité, améliorent le confort de l'immeuble en général et profitent donc à tout le moins indirectement aux locataires intimés ", sa critique ne repose sur aucun fait constaté. Il ne se plaint pas non plus d'un état de fait incomplet, en indiquant où il aurait allégué la part des coûts ayant concerné tout l'immeuble, ni quelles pièces l'établiraient et quelle clé de répartition devrait être appliquée pour ce poste (cf. supra consid. 2). On relève d'ailleurs que la cour cantonale n'a pas écarté les travaux à plus-value concernant l'ascenseur et l'assainissement du sous-sol, dont a bénéficié tout l'immeuble.
En tant qu'il reproche à la cour cantonale d'avoir " confondu la prise en compte de la plus-value avec la clé de répartition de celle-ci ", le recourant méconnaît que la méthode appliquée doit permettre de déterminer très précisément le rendement net de la chose louée, donc ici du 2e étage, et que, dans un calcul effectué sur tout l'immeuble, il ne saurait être contraire au droit fédéral de soustraire les coûts de travaux qui ne profitent qu'à un étage, la clé de répartition au m2 n'étant pas à même d'y parvenir.
On ne voit pas comment, à titre subsidiaire, il pourrait se justifier " d'appliquer la règle simplificatrice de l'art. 14 al 1 OBLF lorsque le bailleur n'a pas tenté de distinguer concrètement entre les investissements à plus-value et les frais d'entretien". La cour cantonale a arrêté les travaux à plus-value à 888'194 fr. (intéressant uniquement le 5e étage et les combles) et les travaux d'entretien à 9'308 fr. 35 (concernant l'ensemble de l'immeuble). Il s'agit là d'une constatation de fait, dont le recourant ne tente pas de démontrer l'arbitraire, et qui ne saurait donc céder le pas à une règle de caractère subsidiaire. Dès lors que ces travaux n'ont bénéficié qu'au 5e étage et aux combles occupés par le recourant, on ne voit pas pour quel motif le coût de cette rénovation - à plus-value pour les locaux en question - devrait être converti en frais d'entretien extraordinaire pour tout l'immeuble. Le grief de prétendue violation de l'art. 112 LTF est ainsi infondé.
5.4.2. Deuxièmement, le bailleur recourant reproche à la cour cantonale de s'être écartée de la clé de répartition qu'il avait proposée.
La cour cantonale a considéré que la clé de répartition entre les différents locataires proposée par le bailleur est insoutenable, car celui-ci propose simplement de prendre en considération les m2 des différents locaux alors que, par exemple, un m2 de parking ne peut pas avoir une valeur identique à un m2 d'arcade. Pour permettre une ventilation objective et équitable, la cour cantonale a donc distingué, sur la base des pièces produites, les arcades, les locaux commerciaux et appartements des étages et les places de parking, en tenant compte des prix actuels au m2 que le bailleur exige des nouveaux locataires. Elle a ainsi déterminé le prix au m2 des arcades (1'328 fr.), des locaux et appartements des étages (921 fr.), des places de parking (6'000 fr. par an par place) et a finalement arrêté l'état locatif admissible pour les locaux et appartements des étages à 256'156 fr. 73, dont une quote-part de 9,83% pour le 2e étage, d'où un loyer admissible de 25'178 fr. 26, à quoi s'ajoute le loyer admissible pour chacune des deux places de parking (1'210 fr. 54), soit un total de 27'599 fr. 33.
Le recourant se limite à invoquer que le juge ne devrait s'écarter de la clé de répartition proposée par le bailleur que si celle-ci était " à ce point insoutenable qu'elle en contredirait l'esprit ". Il se limite toutefois à soutenir que le fait que les m2 des places de parking extérieures et les m2 de l'arcade soient identiques dans son calcul n'est qu'un argument et qu'il n'est pas suffisant pour qualifier sa propre clé de répartition d'insoutenable. Par une telle motivation, le recourant ne démontre pas que sa méthode serait soutenable.
C'est donc à raison que la cour cantonale a adopté sa propre clé de répartition. En affirmant que les m2 des locaux et des appartements sont identiques et que la prise en considération de loyers (nouveaux) négociés par lui est subjective et circonstancielle, le recourant ne démontre pas non plus en quoi la méthode adoptée par la cour cantonale, qui distingue entre les m2 des arcades, les m2 des étages et les places de parking en fonction du prix actuel au m2, calculé sur la base des montants exigés par le bailleur, serait inéquitable.
Pour autant qu'il est recevable, son grief est infondé.
5.4.3. Troisièmement, le recourant critique l'indexation des fonds propres, autrement dit la réévaluation de ceux-ci pour tenir compte du renchérissement par rapport au moment où ils ont été investis.
La cour cantonale a exposé qu'elle a effectué la réévaluation des fonds propres sur la base de l'allégation du bailleur selon laquelle le prix de revient du premier 1/12 de l'immeuble (dont il a hérité) peut être déterminé selon une règle de trois par rapport au prix des onze autres douzièmes, en prenant dès lors en considération l'ISPC pondéré 2006 (à savoir au moment de l'achat des 10/12 restants).
Dès lors qu'il se limite à affirmer que cette méthode d'indexation est inconnue tant en jurisprudence qu'en doctrine, qu'elle est infondée et sous-estime largement l'impact du renchérissement, le recourant ne démontre pas en quoi cette moyenne pondérée qui repose sur ses propres allégations serait inéquitable.
En tant qu'il soutient qu'il y aurait lieu de tenir compte des dettes hypothécaires pour acquérir l'immeuble et financer les travaux dans ce calcul de la réévaluation, il méconnaît les principes applicables à la réévaluation des fonds propres, plafonnée à 40% du prix de revient.
Au demeurant, si l'on calculait de la manière la plus favorable au recourant la réévaluation de 40% des fonds propres de 3'741'912 fr. 94 au taux de 2,37%, ce qui donne 88'683 fr. 33, les fonds propres réactualisés s'élèveraient à 4'893'465 fr. 68 (4'804'782 fr. 35 + 88'683 fr. 33), soit une différence de 3'000 fr. par rapport au chiffre retenu par la cour cantonale. Or, il ne résulterait pas de cette différence, pour le 2e étage en cause, une possibilité de hausse du loyer.
5.4.4. Enfin, il n'y a pas lieu de se prononcer sur le calcul final du recourant dès lors qu'il se base sur des chiffres non retenus, présupposant l'admission de ses trois griefs.
Il est également superflu d'examiner le grief des locataires qui estiment qu'il n'y avait pas lieu de procéder à un calcul de rendement net puisque le bailleur n'a pas fourni les éléments nécessaires à un tel calcul.
6.
Le recours doit ainsi être rejeté dans la mesure où il est recevable.
Les frais et dépens doivent être mis à la charge du bailleur qui succombe (art. 66 al. 1 et 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 4'000 fr., sont mis à la charge du recourant.
3.
Le recourant est condamné à verser aux intimés une indemnité de 5'000 fr. à titre de dépens.
4.
Le présent arrêt est communiqué aux parties et à la Cour de justice du canton de Genève, Chambre des baux et loyers.
Lausanne, le 19 février 2019
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente : Kiss
Le Greffier : Piaget