Faits:
A. Par décision du 24 novembre 2008, la Commission cantonale de recours en matière d'impôts du canton de Genève a rejeté le recours que X._, dûment représenté par Me Y._, avocat, avait déposé à l'encontre d'un prononcé de l'Administration fiscale cantonale du 15 juin 2006. La décision a été expédiée à Me Y._ le 5 décembre 2008 et reçue par ce dernier le 8 décembre 2008.
B. A l'encontre de cette décision, X._, toujours représenté par Me Y._, a recouru au Tribunal administratif du canton de Genève par acte du 16 janvier 2009. Dans la partie "Recevabilité" dudit recours, il était indiqué: "compte tenu des féries (art. 3 LPA et 22a LFPA), le recours est donc déposé dans le délai imparti de trente jours; partant il est recevable en la forme". Dûment requis de se déterminer sur la question du respect du délai de recours, X._ a maintenu ses explications concernant les féries. Comme la décision de la Commission cantonale de recours en matière d'impôts avait été reçue le 8 décembre 2008, le délai de recours avait commencé à courir le lendemain. Compte tenu des féries allant du 18 décembre 2008 au 1er janvier 2009 inclusivement, le délai de recours de 30 jours était donc échu le 22 janvier 2009.
C. Par arrêt du 21 avril 2009, le Tribunal administratif a déclaré irrecevable le recours interjeté le 16 janvier 2009. En substance, cette autorité a relevé que le recourant se fondait sur l'art. 3 de la loi genevoise du 12 septembre 1985 sur la procédure administrative (RS/GE E 5 10; ci-après LPA/GE) - lequel réserve les dispositions de procédure du droit fédéral et permettrait ainsi de tenir compte des féries judiciaires -, ainsi que sur l'art. 22a al. 1 lettre c de la loi fédérale du 20 décembre 1968 sur la procédure administrative (PA; RS 172.021), selon lequel les délais fixés en jours par la loi ou par l'autorité ne courent pas du 18 décembre au 2 janvier inclusivement. Or, les juges cantonaux ont relevé qu'en vertu de l'art. 1 al. 1 PA, cette loi ne s'applique que dans les affaires administratives qui doivent être réglées par les décisions d'autorités administratives fédérales statuant en première instance ou sur recours. Le Tribunal administratif étant une autorité judiciaire cantonale, il n'était pas visé par cette disposition. Seul le droit cantonal de procédure trouvait donc application dans la présente cause. En outre, l'art. 3 LPA/GE réservait les dispositions spéciales de procédure instituées par d'autres lois cantonales telles que la loi genevoise de procédure fiscale du 4 octobre 2001 (LPfisc; RS/GE D 3 17). Or, ni la loi genevoise sur la procédure administrative, ni celle de procédure fiscale ne prévoyaient des féries judiciaires.
Cet arrêt a été notifié aux parties le 7 mai 2009, avec l'indication de la voie de droit (recours en matière de droit public) au Tribunal fédéral.
D. Le 26 mai 2009, soit alors que le délai de recours au Tribunal fédéral n'était pas encore échu, X._ a saisi le Tribunal administratif d'une demande de révision, respectivement d'interprétation ou de rectification. Il alléguait en particulier que le pouvoir judiciaire genevois indiquait, sur le site Internet de l'Etat de Genève, que les délais étaient suspendus du 18 décembre 2008 au 2 janvier 2009 inclusivement.
A la suite de ces allégations, le Tribunal administratif a établi le contenu de la page Internet telle qu'elle se présentait à partir du 18 décembre 2008. Celle-ci avait la teneur suivante:
"A l'occasion des Fêtes de fin d'année, l'administration judiciaire fermera ses bureaux du mercredi 24 décembre 2008 au jeudi 1er janvier 2009 inclus.
Toutefois, afin de répondre aux besoins des justiciables durant cette période, des permanences seront assurées, voir à ce propos le document suivant: Ouverture et fermeture des bureaux du PJ (pdf 13 ko octets).
Féries judiciaires 2009: du lundi 22 juin au vendredi 28 août 2009.
Il n'y a pas de féries judiciaires au TCAS mais seulement des périodes de suspension de délais: du septième jour avant Pâques au septième jour après Pâques inclusivement; du 15 juillet au 15 août inclusivement et du 18 décembre au 2 janvier inclusivement."
L'abréviation TCAS désignait le Tribunal cantonal des assurances sociales.
Le contenu de la page en question avait subi des modifications ultérieurement. Celles-ci concernaient toutefois des périodes postérieures au dépôt du recours du 16 janvier 2009.
De son côté, le recourant a également produit une copie de la page Internet, selon constat établi le 14 mai 2009 par un huissier judiciaire.
Par arrêt du 25 août 2009, le Tribunal administratif a rejeté la demande de révision. En substance, il a retenu que la page Internet produite par le recourant comportait des renseignements manifestement erronés, mais rectifiés depuis lors. La procédure d'instruction avait permis d'établir que ces informations n'étaient pas en ligne durant les mois de décembre 2008 et janvier 2009, soit à l'époque où le recourant avait déposé le recours considéré comme tardif. En outre, la page Internet qui avait été mise en ligne à l'occasion des fêtes de fin d'année 2008 ne comportait aucune indication laissant à penser qu'il existait des féries judiciaires au Tribunal administratif, ou une suspension de délais pendant une certaine période. Les juges cantonaux ont ainsi nié que le recourant n'ait pas respecté le délai en raison d'une erreur engendrée par cette page Internet.
E. A l'encontre de ce jugement, X._ a interjeté un recours en matière de droit public au Tribunal fédéral. Il demande en substance que l'arrêt attaqué soit annulé, que la demande de révision du jugement du Tribunal administratif du 21 avril 2009 soit admise et que la cause soit renvoyée à cette dernière autorité pour qu'elle examine au fond son recours du 16 janvier 2009, le tout sous suite de frais et dépens.
L'autorité précédente s'en rapporte à justice quant à la recevabilité du recours et persiste dans les considérants et le dispositif de son arrêt. L'Administration fiscale cantonale relève que la demande de révision du 26 mai 2009 a été présentée moins de 30 jours après la notification de l'arrêt du 21 avril 2009, de sorte que, l'affaire n'étant à cette date pas tranchée par une décision définitive, la révision n'était pas possible. Le recourant aurait dû saisir le Tribunal fédéral par le biais d'un recours en matière de droit public.

Considérant en droit:
1. Interjeté par une partie directement touchée par la décision attaquée et qui a un intérêt digne de protection à son annulation ou à sa modification (art. 89 al. 1 LTF), le recours est dirigé contre un jugement final (art. 90 LTF) rendu par une autorité cantonale judiciaire supérieure de dernière instance (art. 86 al. 1 lettre d et al. 2 LTF). Déposé dans le délai (art. 100 al. 1 LTF) et la forme (art. 42 LTF) prévus par la loi, il est en principe recevable (s'agissant par ailleurs de la portée de l'art. 73 al. 1 LHID en relation avec la loi sur le Tribunal fédéral, cf. <ref-ruling> consid. 1.3 p. 189).
2. 2.1 Lorsque la décision cantonale repose sur plusieurs motivations, alternatives ou subsidiaires, toutes suffisantes, le recourant doit démontrer que chacune d'elles est contraire au droit, sous peine d'irrecevabilité (<ref-ruling> consid. 3.2 p. 560 et les références). En effet, à défaut, le recours se réduit à une contestation sur la motivation, sans possibilité de modifier le dispositif de la décision querellée (arrêt 6B_739/2008 du 28 novembre 2008 consid. 3.3 avec renvoi à l'<ref-ruling> consid. 1b p. 95). Ces règles ont été reprises sous le régime de la loi sur le Tribunal fédéral (<ref-ruling> consid. 6.3 p. 120 s.).
2.2 Le jugement entrepris rejette la demande de révision pour quatre motifs: les informations erronées n'étaient pas en ligne pendant les mois de décembre 2008 et janvier 2009; la page Internet en question ne donnait aucune indication relative aux féries devant le Tribunal administratif; le recourant agissait par l'intermédiaire d'un avocat qui doit connaître les règles de computation des délais et enfin le recourant n'était pas dans l'erreur. S'agissant de ce dernier point, les juges cantonaux ont relevé que le recourant "n'aurait pas manqué de [...] mentionner [qu'il avait été induit en erreur] lorsque, dans le cadre de la première procédure, il a eu l'occasion de s'exprimer au sujet de la tardiveté du recours".
2.3 Le recourant se borne à affirmer qu'il a été induit en erreur par la publication sur le site Internet de l'Etat de Genève, mais sans donner aucune explication quant au fait - relevé par l'autorité précédente - qu'il n'a pas fait valoir ces circonstances dans la procédure ayant conduit à l'arrêt d'irrecevabilité pour cause de tardiveté. Il ne réfute pas davantage - sauf à simplement affirmer le contraire - le point de vue selon lequel une information défectueuse aurait de toute manière dû rester sans conséquences en raison de l'assistance par un avocat.
Dans ces conditions, le recours doit être déclaré irrecevable. Le Tribunal de céans eût-il d'ailleurs pu entrer en matière qu'il aurait dû le rejeter au vu des arguments soulevés.
3. Le recourant estime en substance que c'est à tort que le Tribunal administratif n'a pas vu un motif de révision dans le fait que le site Internet de l'Etat de Genève aurait contenu des indications erronées.
Selon l'art. 80 lettre b LPA/GE, il y a lieu à révision notamment lorsque des faits ou des moyens de preuve nouveaux et importants existent, que le recourant ne pouvait connaître ou invoquer dans la procédure précédente.
A supposer que le site Internet de l'Etat de Genève ait contenu, durant la période où le recourant a agi devant le Tribunal administratif, des informations erronées sur la suspension des délais et que le recourant ait été induit en erreur par celles-ci, lesdites informations ne constitueraient à l'évidence pas des faits nouveaux au sens de l'art. 80 lettre b LPA/GE - dont le Tribunal de céans ne vérifie d'ailleurs l'application que sous l'angle de l'arbitraire (cf. art. 95 LTF et <ref-ruling> consid. 4.3 p. 521 s.) -: si le recourant a été induit en erreur par ces indications, c'est qu'il en avait connaissance et, partant, qu'il devait les faire valoir dans la procédure précédente. Pour ce motif déjà, le recours est manifestement mal fondé.
En outre, il n'est nullement démontré que, pendant la période déterminante, savoir celle allant de la notification de la décision de la Commission cantonale de recours en matière d'impôts (le 8 décembre 2008) jusqu'au dépôt du recours contre ladite décision (le 16 janvier 2009), le site Internet de l'Etat de Genève ait contenu une indication erronée, s'agissant des délais pour les procédures devant le Tribunal administratif. L'autorité précédente a constaté, d'une manière qui lie le Tribunal de céans (cf. art. 105 al. 1 et 2 LTF), que tel n'était pas le cas et le principal argument avancé par le recourant, à savoir que la date de la modification des données n'a pu être établie de manière précise (les informaticiens de la Haute école de gestion de Genève, qui gère le site de l'Etat de Genève, ont indiqué que la page Internet avait été modifiée en mars-avril 2009, sans autres précisions) n'est pas de nature à faire apparaître manifestement inexacte cette constatation de fait.
Quoi qu'il en soit, le simple fait que des informations à caractère officiel soient erronées ne permet pas nécessairement au citoyen qui s'y est fié d'être traité conformément à celles-ci plutôt que selon le régime légal en vigueur. En effet, selon la jurisprudence relative à l'art. 9 Cst., un droit à la protection de la confiance légitime en les assurances reçues des autorités n'existe qu'à des conditions restrictives (cf. à ce sujet <ref-ruling> consid. 6.1 p. 636 s. et les références; voir aussi <ref-ruling> consid. 4 p. 493 s. s'agissant d'un renseignement erroné concernant le délai de recours). Or, en l'occurrence, le recourant n'a nullement abordé cette problématique. Pourtant, la question de savoir si, comme le prétend le recourant, les informations officielles sont erronées n'a de pertinence que pour autant que les autres conditions du droit à la protection de la bonne foi soient remplies. Si tel n'est pas le cas, le grief de constatation manifestement inexacte des faits soulevé en relation avec ces informations est inopérant, dès lors que la correction du vice n'est pas susceptible d'influer sur le sort de la cause (cf. art. 97 al. 1 LTF).
En définitive, que ce soit dans l'écriture de recours au Tribunal administratif ou dans la détermination déposée sur interpellation de ce dernier, ni le recourant ni son mandataire n'a allégué s'être trouvé dans l'erreur consécutivement à une information erronée figurant sur le site Internet de l'Etat de Genève. Au contraire, le recourant s'est prévalu de manière explicite des art. 3 LPA/GE et 22a al. 1 lettre c PA. Ces références ne figuraient sur aucune des moutures des informations fournies sur le site officiel de l'Etat de Genève et démontrent, si besoin était encore, que la cause de l'erreur n'a pas à être cherchée dans une soi-disant fausse information délivrée par l'Etat de Genève, mais bien, uniquement, dans une méconnaissance de la loi.
4. Au demeurant, il est téméraire pour un mandataire professionnel, censé connaître sans hésitation tous les mécanismes déterminants pour assurer le respect des délais (cf. <ref-ruling> consid. 4 p. 493; arrêt 5A.168/2007 du 7 août 2007 consid. 2), de se prévaloir d'informations prétendument erronées figurant sur un site Internet officiel. La connaissance des règles relatives aux délais - dont celles qui ont trait aux féries - constitue en effet une des exigences élémentaires de la profession d'avocat (cf. Bohnet/Martenet, Droit de la profession d'avocat, 2009, no 2765 p. 1102).
5. Au vu de ce qui précède, le recours doit être déclaré irrecevable, sans qu'il y ait à examiner les autres aspects évoqués dans la détermination de l'Administration fiscale cantonale. Eu égard au caractère téméraire du recours au Tribunal fédéral, que ce soit par la production d'un mémoire irrecevable ou par la qualité des arguments mis en évidence dans l'écriture de recours, les frais de l'instance seront mis à la charge de Me Y._ (cf. p. ex. <ref-ruling> consid. 2 p. 207 s.; arrêts 2C_778/2009 du 26 janvier 2010; 1B_116/2007 du 10 juillet 2007 consid. 3).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est irrecevable.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge de Me Y._.
3. Il n'est pas alloué de dépens.
4. Le présent arrêt est communiqué au mandataire du recourant, à l'Administration fiscale cantonale, à la Commission cantonale de recours en matière administrative et au Tribunal administratif du canton de Genève, 1ère section.
Lausanne, le 4 mars 2010
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Müller Vianin