Faits:
A. Par contrat du 11 avril 1990, les consorts X._, alors propriétaires, ont cédé à H.Y._ et F.Y._ l'usage d'un appartement de 4 pièces situé au septième étage d'un immeuble à Genève, moyennant un loyer mensuel de 2'500 fr. Par la suite, A.X._ est devenu l'unique bailleur.
Par deux avis du 22 novembre 2004, adressés l'un à H.Y._ et l'autre à F.Y._, A.X._ a résilié le contrat de bail pour le 30 avril 2005. Ultérieurement, le bailleur a expliqué qu'il avait besoin des locaux loués pour y loger sa fille, qui travaille à la permanence dentaire située dans le même immeuble.
B. Le 20 décembre 2004, les locataires ont saisi la Commission de conciliation en matière de baux et loyers en demandant principalement l'annulation du congé et, subsidiairement, une prolongation du bail assortie d'une réduction du loyer.
Par décision du 11 novembre 2005, la Commission de conciliation en matière de baux et loyers a annulé le congé notifié aux locataires et débouté les parties de toutes autres conclusions.
Le 7 décembre 2005, A.X._ a saisi le Tribunal des baux et loyers, concluant à ce que le congé soit déclaré valable et à ce qu'aucune prolongation du bail ne soit accordée. Subsidiairement, il a demandé qu'un délai lui soit accordé pour répondre à la demande de baisse de loyer.
Dans leur réponse, les locataires ont conclu principalement à l'annulation du congé et, subsidiairement, à une prolongation de bail de quatre ans et à une baisse de loyer de 25,37 %. Ils ont soutenu que le besoin du propriétaire n'était pas établi et qu'il avait d'autres possibilités pour loger ses enfants.
Après l'échange d'écritures, les parties ont eu l'occasion de plaider.
Le Tribunal des baux et loyers a ordonné ensuite une comparution personnelle des parties, puis l'audition de témoins.
Après l'administration des preuves, les parties ont présenté de nouvelles écritures et persisté dans leurs conclusions. Le bailleur a déclaré qu'il ne se déterminait pas sur la réduction de loyer sollicitée pour le motif que les locataires n'avaient pas saisi le juge dans les trente jours dès la décision de la Commission de conciliation qui rejetait cette demande.
Par jugement du 28 septembre 2007, le Tribunal des baux et loyers du canton de Genève a déclaré le congé valable et a accordé aux locataires une unique prolongation du bail de quatre ans, en réduisant le loyer à 1'909 fr. par mois pendant toute la durée de la prolongation.
Se plaignant exclusivement de la réduction de loyer accordée, le bailleur a appelé de ce jugement. Il a soutenu que les locataires, en ne saisissant pas le juge dans les trente jours, avaient renoncé à contester le rejet de leur demande en réduction de loyer par la Commission de conciliation. Subsidiairement, il a fait valoir qu'il avait été induit en erreur par une ordonnance préparatoire rendue dans une autre cause le 12 décembre 2006.
Statuant par arrêt du 6 octobre 2008, la Chambre d'appel en matière de baux et loyers a confirmé le jugement attaqué.
C. Ayant reçu cet arrêt le 9 octobre 2008, A.X._ a déposé dans un bureau de poste suisse, le 6 novembre 2008, un recours constitutionnel subsidiaire au Tribunal fédéral. Invoquant l'interdiction de l'arbitraire et la protection de la bonne foi (art. 9 Cst.), ainsi que le droit d'être entendu et le droit à un procès équitable (art. 29 Cst.), il conclut, sous suite de dépens, à l'annulation de l'arrêt attaqué et au renvoi de la cause à l'autorité précédente afin qu'elle ordonne une instruction sur une éventuelle réduction du loyer.
Les intimés ont conclu, sous suite de dépens, à l'irrecevabilité du recours, subsidiairement à son rejet.

Considérant en droit:
1. 1.1 Contrairement à l'indication qui lui était donnée par la cour cantonale (art. 112 al. 1 let. d LTF), le recourant a choisi d'interjeter un recours constitutionnel subsidiaire.
Selon l'<ref-law>, cette voie de droit n'est ouverte que si la décision attaquée ne peut pas faire l'objet de l'un des recours prévus aux art. 72 à 89 LTF.
En matière civile, un recours constitutionnel subsidiaire n'est possible que si les exigences de l'<ref-law> (valeur litigieuse minimale) ne sont pas remplies.
La valeur litigieuse est déterminée, en cas de recours contre une décision finale, par les conclusions restées litigieuses devant l'autorité précédente (<ref-law>). En l'espèce, la cour cantonale a constaté que la valeur litigieuse, selon les dernières conclusions prises devant elle, s'élevait à 20'094 fr., soit la réduction de loyer de 591 fr. par mois contestée pour une période de 34 mois comprise entre le 30 avril 2005 et le 29 février 2008 (date pour laquelle les locataires ont résilié le bail en vertu d'une faculté qui leur était accordée et qui n'est pas contestée). Ainsi, le seuil de 15'000 fr., prescrit en matière de droit du bail à loyer par l'<ref-law>, est atteint. Le recourant l'admet d'ailleurs expressément.
En conséquence, le recours en matière civile est ouvert, ce qui exclut le recours constitutionnel qui lui est subsidiaire (<ref-law>). Le recours constitutionnel subsidiaire doit donc être déclaré irrecevable.
L'intitulé inexact de la voie du recours ne nuit cependant pas au recourant, dès lors que son acte remplit les conditions de recevabilité d'un recours en matière civile et peut être traité comme tel (<ref-ruling> consid. 1.2 p. 382).
1.2 Interjeté par la partie qui a succombé dans ses conclusions libératoires (<ref-law>) et dirigé contre un jugement final (<ref-law>) rendu en matière civile (<ref-law>) par une autorité cantonale de dernière instance (<ref-law>) dans une affaire pécuniaire dont la valeur litigieuse atteint le seuil de 15'000 fr. requis en matière de bail (<ref-law>), le recours en matière civile est en principe recevable, puisqu'il a été déposé dans le délai (<ref-law>) et la forme (<ref-law>) prévus par la loi.
1.3 Le recours peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>). Il n'est donc limité ni par les arguments soulevés dans le recours, ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (<ref-ruling> consid. 1.1 p. 104). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (<ref-law>), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui (<ref-ruling> consid. 1.1 p. 105). Il ne peut entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal que si le grief a été invoqué et motivé de manière précise par le recourant (<ref-law>).
1.4 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (<ref-law>). Il ne peut s'en écarter que si les faits ont été établis de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire: <ref-ruling> consid. 4.3 p. 62 - ou en violation du droit au sens de l'<ref-law> (<ref-law>).
La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (cf. <ref-ruling> consid. 1.4 p. 140). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (<ref-law>).
1.5 Le Tribunal fédéral ne peut aller au-delà des conclusions des parties (<ref-law>). Toute conclusion nouvelle est irrecevable (<ref-law>).
2. 2.1 Le recourant présente trois arguments:
- la faculté de s'exprimer sur la réduction de loyer aurait dû lui être accordée, parce qu'il l'avait sollicitée dans sa première écriture du 7 décembre 2005;
- de toute manière, le juge aurait dû l'inviter à s'exprimer sur cette question, parce qu'il devait instruire la cause d'office en application de l'<ref-law>/GE;
- il a été induit en erreur par une ordonnance rendue dans une cause parallèle, qui lui a donné à croire que les locataires ne pouvaient plus revenir sur la question de la réduction du loyer.
Il semble toutefois rencontrer quelques difficultés à préciser quel droit constitutionnel aurait été violé (cf. <ref-law>), puisqu'il formule ces trois arguments de manière répétitive en parlant tour à tour d'arbitraire (art. 9 Cst.), de violation du principe de la bonne foi due par l'autorité (art. 9 Cst.), de droit à un procès équitable (art. 29 al. 1 Cst. et 6 ch. 1 CEDH) et de droit d'être entendu (art. 29 al. 2 Cst.), suggérant même l'idée d'une inégalité entre bailleur et locataire, ce qui relèverait plutôt de l'art. 8 Cst.
Il convient d'examiner chacun de ces trois arguments à la lumière de l'ensemble des droits constitutionnels invoqués.
2.2 La cour cantonale n'a pas ignoré que le recourant, dans sa demande au Tribunal des baux et loyers du 7 décembre 2005, avait sollicité à titre subsidiaire un délai pour répondre à la demande de baisse de loyer, puisque ce fait est mentionné expressément à la page 4 (in initio) de l'arrêt attaqué. Il n'y a donc aucune trace d'arbitraire dans la constatation des faits. Ce que la cour cantonale a reproché au recourant, au considérant 4 de l'arrêt attaqué, c'est de ne pas avoir réagi à la lecture de la réponse des locataires du 14 mars 2006, qui lui montrait que ces derniers sollicitaient effectivement une réduction de loyer. Cet argument n'a rien d'arbitraire. Il faut rappeler ici que le bailleur savait, depuis la procédure de conciliation, que les locataires entendaient demander une réduction du loyer, en application de l'<ref-law>, pour l'hypothèse où le juge n'annulerait pas le congé, mais accorderait une prolongation du bail. C'est bien parce qu'il s'attendait à ce que cette demande soit reprise devant le Tribunal des baux et loyers que le bailleur a d'emblée, dès sa demande du 7 décembre 2005, sollicité de pouvoir s'exprimer ultérieurement sur la réduction du loyer. Lorsqu'il a constaté, en lisant la réponse des locataires du 14 mars 2006, que ceux-ci formaient effectivement une demande de réduction de loyer, il aurait dû, s'il estimait avoir des motifs de répliquer, se manifester immédiatement. La cour cantonale a constaté en fait que la cause avait été ajournée pour plaider, de sorte que le bailleur aurait pu en tout cas à cette occasion s'exprimer à ce sujet et compléter ses offres de preuves. On ne voit pas non plus ce qui l'aurait empêché d'en parler lors de la comparution personnelle des parties qui a suivi. Il aurait pu encore traiter le problème dans son écriture après la clôture de l'administration des preuves. Le recourant a eu ainsi amplement l'occasion de s'exprimer sur la demande de réduction du loyer. L'autorité cantonale pouvait sans arbitraire interpréter son silence comme signifiant qu'il n'avait rien de particulier à dire à ce sujet et qu'il renonçait en conséquence à la requête qu'il avait formée par précaution dans sa demande du 7 décembre 2005. Quoi qu'il en soit, le recourant a eu effectivement l'occasion de s'exprimer et de faire valoir ses moyens sur la demande en réduction de loyer lors de la plaidoirie subséquente, lors de la comparution personnelle des parties ou encore lors de l'écriture subséquente.
La manière de procéder de l'autorité cantonale n'est donc pas entachée d'arbitraire; on ne discerne aucune violation du droit d'être entendu (le recourant ayant eu l'occasion de s'exprimer) et il n'y a pas davantage de violation du droit à un procès équitable ou d'une inégalité entre les parties (chacune d'elles ayant eu les mêmes possibilités de s'exprimer).
2.3 Le recourant reproche à la cour cantonale d'avoir violé arbitrairement l'<ref-law>/GE, qui prescrit que le tribunal établit d'office les faits et apprécie librement les preuves.
Il faut tout d'abord observer que cette règle correspond exactement à l'art. 274d al. 3 1ère phrase CO. Le droit cantonal n'a fait donc que reproduire une règle qui s'imposait déjà à l'autorité en vertu du droit fédéral (art. 49 al. 1 Cst.). Dans une telle situation, l'existence d'une norme répétitive de droit cantonal n'a pas pour effet de transformer la règle de droit fédéral en une règle de droit cantonal (arrêt 4P.227/1999 du 6 décembre 1999 consid. 2a/bb). La disposition cantonale n'a pas de portée propre et il faut examiner uniquement s'il y a eu violation de l'<ref-law>, dont le Tribunal fédéral peut contrôler librement le respect (art. 95 let. a et <ref-law>).
L'<ref-law> institue une maxime inquisitoire sociale, qu'il ne faut pas confondre avec une maxime inquisitoire absolue; conçue en songeant à la situation de la partie faible au contrat de bail, cette règle oblige le juge a attiré l'attention des parties sur la nécessité d'alléguer les faits et de fournir leurs preuves, lorsqu'il a des raisons de penser qu'elles n'en sont pas conscientes; le juge ne doit cependant pas instruire d'office lorsqu'un plaideur renonce à expliquer sa position (<ref-ruling> consid. 4a p. 238; arrêt 4C.199/2000 du 21 décembre 2000 consid. 2a, in SJ 2001 I p. 278). En l'espèce, le recourant, représenté par un avocat, était conscient de son droit de s'exprimer sur une probable demande en réduction de loyer présentée par sa partie adverse, puisqu'il avait sollicité un délai pour le faire dès sa première écriture. Le juge lui a donné l'occasion de s'exprimer sur l'ensemble des conclusions prises tout d'abord lors des plaidoiries avant l'administration des preuves, puis en présentant une écriture après la clôture des mesures probatoires. On ne voit pas quelle autre mesure d'instruction aurait été nécessaire. Il n'y a donc pas de violation de l'<ref-law> et le recourant ne peut s'en prendre qu'à lui-même s'il n'a pas utilisé les occasions qui lui ont été données d'alléguer des faits et de fournir des preuves.
2.4 Le recourant soutient qu'il a été induit en erreur par une ordonnance préparatoire rendue dans une autre cause.
Le principe de la bonne foi due par l'autorité (art. 9 Cst.) ne s'applique que s'il y a eu des assurances données pour un cas concret et des personnes déterminées (<ref-ruling> consid. 4c p. 274; PASCAL MAHON, in Petit commentaire de la Constitution fédérale de la Confédération suisse, 2003, n° 12 ad art. 9 Cst.). Dès lors que l'ordonnance invoquée a été rendue dans une autre procédure, qui ne concerne pas les mêmes parties, le recourant ne peut en déduire aucune assurance quant à la manière dont la présente procédure devait être conduite.
Qu'une décision erronée ait été rendue dans une autre procédure ne donne aucun droit à l'égalité dans l'illégalité (art. 8 Cst.; <ref-ruling> consid. 3.7 p. 20).
Une décision isolée ne constitue pas une pratique, de sorte qu'il n'est pas question non plus d'un changement de jurisprudence (cf. <ref-ruling> consid. 5.3.3 p. 39; <ref-ruling> consid. 1.5.3 p. 95).
Au demeurant, la situation juridique était simple. Les locataires avaient sollicité principalement l'annulation du congé et ils avaient obtenu entière satisfaction devant l'autorité de conciliation; dès lors qu'ils n'avaient pas succombé, ils ne pouvaient pas eux-mêmes saisir le juge (<ref-law>); dès lors que la décision de l'autorité de conciliation n'est pas entrée en force parce que le bailleur a saisi le juge, il est évident que les locataires, de leur côté, allaient reprendre leurs conclusions subsidiaires pour le cas où l'annulation du congé ne serait pas admise. Le bailleur était tellement conscient de cette éventualité qu'il a par avance demandé à pouvoir s'exprimer sur la demande en réduction de loyer liée à la prolongation du bail. Qu'il ait ensuite changé d'avis et pensé que les locataires n'avaient plus cette possibilité est incompréhensible. Il doit assumer les conséquences de son erreur de raisonnement et il n'y a sous cet angle ni arbitraire, ni violation du principe de la bonne foi, ni atteinte au droit à un procès équitable.
Le recours doit donc être rejeté.
3. Les frais judiciaires et les dépens sont mis à la charge de la partie qui succombe (art. 66 al. 1 et 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours constitutionnel subsidiaire est irrecevable.
2. Le recours, traité en tant que recours en matière civile, est rejeté.
3. Les frais judiciaires, fixés à 1'500 fr., sont mis à la charge du recourant.
4. Le recourant est condamné à verser aux intimés solidairement une indemnité de 2'000 fr. à titre de dépens.
5. Le présent arrêt est communiqué aux mandataires des parties et à la Chambre d'appel en matière de baux et loyers du canton de Genève.
Lausanne, le 19 janvier 2009
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: La Greffière:
Klett Crittin