Faits:
A. Depuis 1971, Y._ est locataire de deux arcades et de deux pièces au rez-de-chaussée d'un immeuble sis à Genève; il y exploite un salon de coiffure. Le dernier loyer annuel a été fixé à 24'768 fr. charges comprises, soit à 299 fr. 50 le mètre carré. L'immeuble date de 1883; il a été partiellement rénové en 2002. X._en est devenu propriétaire par héritage.
Par avis officiel du 4 mai 2007, le propriétaire a résilié le bail pour le 31 mars 2008 afin de relouer les locaux à un tiers pour un prix plus élevé.
B. Saisie par le locataire, la Commission de conciliation en matière de baux et loyers a annulé le congé. L'affaire a été portée devant le Tribunal des baux et loyers qui a derechef annulé le congé par jugement du 18 décembre 2008. Statuant sur appel du propriétaire par arrêt du 7 septembre 2009, la Chambre d'appel en matière de baux et loyers a confirmé la décision annulant le congé.
C. Le propriétaire (le recourant) interjette un recours en matière civile au Tribunal fédéral; il conclut principalement à ce que le congé donné le 4 mai 2007 soit déclaré valable. Le locataire (l'intimé) propose principalement le rejet du recours.

Considérant en droit:
1. Selon la Chambre d'appel, le recourant n'a pas été en mesure d'établir que le loyer versé par l'intimé était inférieur au loyer usuel du quartier, faute d'avoir présenté cinq exemples susceptibles d'être valablement comparés à l'objet loué.
1.1 Un congé motivé exclusivement par la volonté du bailleur d'obtenir d'un nouveau locataire un loyer plus élevé que le loyer payé par le locataire dont le bail est résilié ne contrevient en principe pas aux règles de la bonne foi et est licite, à la condition que le bailleur soit en droit d'exiger du nouveau locataire un loyer supérieur au loyer payé jusque-là par le preneur congédié. En d'autres termes, le congé est annulable si l'application de la méthode de calcul absolue permet d'exclure l'hypothèse que le bailleur puisse majorer légalement le loyer, notamment parce que celui-ci est déjà conforme aux loyers usuels dans le quartier (<ref-law>). Pour déterminer ce dernier, le juge doit en règle générale disposer d'au moins cinq éléments de comparaison (cf. art. 11 al. 1 et 3 de l'ordonnance sur le bail à loyer et le bail à ferme d'habitations et de locaux commerciaux du 9 mai 1990 [OBLF; RS 221.213.11]; <ref-ruling> consid. 4a; arrêt 4C.265/2000 du 16 janvier 2001 consid. 4a, in SJ 2001 I p. 247).
1.2 Le recourant a présenté en appel de nouvelles fiches de référence relatives à des objets de comparaison. La Chambre d'appel a jugé que cela revenait à alléguer des faits nouveaux, procédé inadmissible en seconde instance.
Savoir si la production de nouvelles pièces en instance d'appel est licite est une question de droit de procédure cantonal. Or, le Tribunal fédéral ne peut examiner l'application du droit cantonal que sous l'angle d'une violation d'un droit constitutionnel, en particulier d'une violation de l'interdiction de l'arbitraire (cf. <ref-ruling> consid. 2.6; <ref-ruling> consid. 2.3), et cela à la condition qu'un tel grief soit expressément soulevé et motivé (<ref-law>). Ce n'est pas le cas en l'espèce.
1.3 De tous les objets comparatifs présentés à temps, la Chambre d'appel a retenu que seuls quatre pouvaient entrer en ligne de compte pour une comparaison, les autres ayant été construits plus de vingt ans après l'immeuble du recourant. Le recourant ne démontre pas que cette dernière constatation de fait serait arbitraire; elle lie le Tribunal fédéral (<ref-law>).
Le Tribunal fédéral vient de juger qu'une comparaison avec des immeubles construit plus de vingt ans plus tôt ou plus tard était exclue (cf. arrêts 4A_408/2009, 4A_410/2009 et 4A_412/2009 rendus en séance publique le 15 décembre 2009). Cela scelle le sort du grief, sans qu'il soit nécessaire d'examiner plus avant les quatre objets restants. En effet, ils ne sont de toute façon pas assez nombreux pour établir le loyer usuel du quartier. Une inspection de ces objets par l'autorité cantonale était dès lors inutile; la maxime d'office (cf. <ref-law>) n'y change rien.
1.4 Il résulte des considérants qui précèdent que le recours doit être rejeté.
2. Compte tenu de l'issue du litige, les frais judiciaires et dépens de l'intimé sont mis à la charge du recourant, qui succombe (art. 66 al.1 ainsi qu'art. 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3. Une indemnité de 3'500 fr., à payer à l'intimé à titre de dépens, est mise à la charge du recourant.
4. Le présent arrêt est communiqué aux mandataires des parties et à la Chambre d'appel en matière de baux et loyers du canton de Genève.
Lausanne, le 5 janvier 2010
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: La Greffière:
Klett Cornaz