Faits : A. A.a. Par contrat du 21 octobre 1982 tout d'abord, puis par nouveau contrat du 28 mars 1988, A._ et B._ ont pris à bail des locaux commerciaux situés au 2e étage d'un immeuble à Genève, soit 5 pièces d'une surface totale de 138 m 2, destinées à l'usage d'un cabinet dentaire pour une durée de 10 ans, du 1er novembre 1988 au 31 octobre 1998, se renouvelant ensuite tacitement d'année en année sauf préavis de résiliation six mois avant l'échéance. Le loyer fixé par le contrat de 1988 était de 1'690 fr. par mois (20'280 fr. par an), charges non comprises; depuis le 1er décembre 1997, il était de 2'186 fr. par mois (26'232 fr. par an), charges non comprises (complètement selon l'art. 105 al. 2 LTF). Par contrats des 12 juillet 1991 et 15 décembre 1995, les locataires ont encore pris à bail deux places de parking. A.b. X._ (ci-après: le bailleur), qui était propriétaire de 1/12 de l'immeuble depuis plusieurs années (par succession) a d'abord racheté la part de 1/12 de sa soeur pour le prix de 738'700 fr. le 28 juin 2006, puis les 10/12 restants pour le prix de 6'876'277 fr. 75 le 22 janvier 2007. L'immeuble comprend une arcade au rez-de-chaussée, des bureaux au 1er étage, le cabinet dentaire des locataires au 2e étage, des bureaux au 3e étage et deux appartements aux 4e et 5e étages, le 5e étage, ainsi que les combles étant réservés à l'usage personnel du bailleur. A.c. Le 3 octobre 2007, le bailleur a notifié aux locataires une hausse de loyer à 42'000 fr. du 1er mai 2008 au 30 avril 2009, à 48'000 fr. du 1er mai 2009 au 30 avril 2010 et de 55'200 fr. du 1er mai 2010 au 30 avril 2011, avec indexation pour la suite, indiquant comme motif les loyers comparatifs (art. 269a let. a CO). Les locataires ont contesté cette hausse de loyer et ont également demandé la réduction du loyer au motif de la diminution du taux hypothécaire et des charges d'exploitation (complètement selon l'art. 105 al. 2 LTF). Par jugement du 31 mars 2009, le Tribunal des baux et loyers a fixé le loyer à 1'901 fr. par mois (22'812 fr. par an), charges non comprises, à compter du 1er mai 2008, ce qui a été confirmé par la Cour de justice le 18 janvier 2010. Le loyer des places de parking a été fixé pour la première à 250 fr. par mois (3'000 fr. par an) dès le 1er août 2008 et pour la seconde à 277 fr. par mois (3'324 fr. par an) dès le 1er mars 2009, par jugement du Tribunal des baux du 31 mars 2009, confirmé par arrêt de la Cour de justice du 18 janvier 2010. A.d. Entre mai 2011 et 2012, le propriétaire bailleur a fait installer un ascenseur, ce qui a nécessité un important travail d'assainissement de la dalle du sous-sol et des travaux à tous les étages, y compris au 5e étage et dans les combles. Des travaux de rénovation ont également été réalisés dans les bureaux du 1er étage et dans l'arcade du rez-de-chaussée. Le 2e étage n'a fait l'objet que de travaux d'entretien: la réfection de la peinture des WC et du plafond du cabinet de l'hygiéniste, des retouches sur les boiseries du corridor, puis la réfection de la peinture du cabinet de l'hygiéniste et des menus travaux sur les boiseries et les portes. B. B.a. Le 30 septembre 2013, le bailleur a résilié le bail du cabinet dentaire pour le 30 avril 2014; sur demande des locataires, il a indiqué que la résiliation était motivée par un rendement insuffisant de la chose louée. A la même date, il a également résilié le bail des places de parking. Par requête de conciliation adressée à la Commission de conciliation en matière de baux et loyers du canton de Genève, les locataires ont ouvert action en contestation de ces résiliations. A la suite de l'échec de la conciliation, ils ont déposé leur demande devant le Tribunal des baux et loyers le 15 mai 2015, concluant principalement à leur annulation et subsidiairement à une prolongation des baux de 6 ans. Le bailleur a conclu au rejet et, reconventionnellement, à l'expulsion des locataires tant du local commercial que des places de parking. Les locataires ont conclu à l'irrecevabilité de la demande reconventionnelle et subsidiairement à son rejet. Statuant le 13 janvier 2017, le Tribunal des baux et loyers a admis la demande et annulé les résiliations des baux. Il a considéré que le bailleur n'a pas pu démontrer que le loyer actuel des locataires pourrait être augmenté en vertu de la méthode absolue, à savoir sur la base d'un calcul de rendement net, faute d'avoir produit les pièces nécessaires et apporté des explications suffisantes pour la réalisation de ce calcul, de sorte que les congés donnés pour motif économique devaient être considérés comme contraires aux règles de la bonne foi. Par arrêt du 5 mars 2018, la Chambre des baux et loyers de la Cour de justice du canton de Genève a, sur le fond, rejeté l'appel du bailleur et confirmé le jugement de première instance. La cour cantonale a jugé que l'administration d'une expertise pour déterminer les éléments nécessaires au calcul du rendement admissible était superflue dès lors que le calcul de rendement net effectué sur la base des chiffres allégués par le bailleur ne permettait pas d'augmenter le loyer et que, partant, les congés pour motifs économiques devaient être annulés. B.b. La résiliation que le bailleur avait notifiée aux locataires le 12 juin 2014, avec effet respectivement au 30 avril 2015 pour le cabinet et au 31 janvier et 28 février 2015 pour les places de parking, au motif que les locataires avaient refusé de lui communiquer l'intégralité des accords passés avec le sous-locataire, a été déclarée inefficace par arrêt du Tribunal fédéral du 10 novembre 2016 (4A_347/2016). C. Contre l'arrêt du 5 mars 2018, le bailleur a interjeté un recours en matière civile au Tribunal fédéral le 23 avril 2018. Il conclut principalement au rejet de la demande en annulation des congés et en prolongation des baux, ainsi qu'à l'admission de sa demande en expulsion des locataires, avec autorisation de mettre en oeuvre la force publique dès l'entrée en force de l'arrêt du Tribunal fédéral; subsidiairement, il conclut à la constatation que le loyer des locaux ne lui procure pas un rendement excessif et au renvoi de la cause à la cour cantonale pour décision dans le sens des considérants; plus subsidiairement, il conclut à la constatation que la cour cantonale aurait dû ordonner une expertise portant sur le coût d'acquisition de l'immeuble, sur sa surface au sol, sur la surface des locaux loués par les locataires intimés, sur le coût des travaux effectuées entre 2011 et 2015 et sur le rendement admissible de l'immeuble, avec renvoi de la cause à la cour cantonale pour décision dans le sens des considérants; plus subsidiairement encore, il conclut en substance à son annulation en application de l'art. 112 LTF. Les locataires intimés concluent principalement au rejet du recours et subsidiairement à l'octroi d'une prolongation de leurs baux (locaux commerciaux et deux places de parking) jusqu'au 30 avril 2020, respectivement 31 janvier 2020 et 28 février 2020. Les parties ont encore déposé chacune de brèves observations. La cour cantonale se réfère aux considérants de son arrêt.