Faits:
A. B._ perçoit des prestations complémentaires à l'AVS/AI depuis le mois de mars 1994. Le 25 novembre 1998, il a présenté une demande de rente de vieillesse, dont une copie a été transmise à l'Office cantonal des personnes âgées du canton de Genève (ci-après: l'OCPA).
Lors d'une procédure de révision du droit à la prestation complémentaire, l'OCPA a constaté que l'intéressé percevait une rente de vieillesse depuis le 1er février 1999. Aussi, par décision du 17 avril 2007, lui a-t-il réclamé un montant de 25'948 fr. représentant des prestations complémentaires perçues en trop durant la période du 1er mai 2002 au 31 août 2006.
L'intéressé, représenté par Me Petitat, a fait opposition à cette décision en requérant le bénéfice de l'assistance juridique pour cette procédure.
Par décision du 5 octobre 2007, l'OCPA a rejeté cette opposition. Le même jour, il a rendu une autre décision par laquelle il a rejeté la demande d'assistance juridique, motif pris que celle-ci n'apparaissait pas exigée par les circonstances, du moment que le litige ne nécessitait pas une analyse juridique approfondie.
B. B._ a recouru contre les deux décisions du 5 octobre 2007 devant le Tribunal cantonal des assurances sociales du canton de Genève.
Par décision du 13 novembre 2007, le vice-président du Tribunal de première instance du canton de Genève a refusé l'assistance judiciaire pour la procédure de recours contre la décision sur opposition, au motif que l'intéressé pouvait assumer le coût de ladite procédure par ses propres moyens.
Par jugement du 27 février 2008, le Tribunal cantonal des assurances sociales a admis le recours dont il était saisi et a annulé la décision du 5 octobre 2007 de refus de l'assistance juridique pour la procédure d'opposition. Il a considéré que l'intervention d'un avocat était rendue nécessaire par la complexité de l'affaire et il a renvoyé la cause à l'OCPA pour examen des autres conditions de l'assistance juridique et nouvelle décision au sens des considérants.
C. L'OCPA (depuis le 1er mai 2008: le Service des prestations complémentaires [ci-après: le SPC]) interjette un recours en matière de droit public contre ce jugement, dont il demande l'annulation, en concluant à la confirmation de sa décision de refus de l'assistance juridique du 5 octobre 2007.
Par lettre du 3 juin 2008, Me Petitat a informé le Tribunal fédéral qu'il n'assumait plus la défense des intérêts de B._.
Par écriture du 26 juin 2008, Me Raphaël Rey, nouveau mandataire de l'intimé, a conclu au rejet du recours sous suite de frais et dépens.
L'Office fédéral des assurances sociales (OFAS) a renoncé à présenter des déterminations.

Considérant en droit:
1. 1.1 Aux art. 90 à 93, la LTF opère une distinction entre décisions finales, décisions partielles, ainsi que décisions préjudicielles et incidentes, et établit ainsi une terminologie unifiée pour toutes les procédures. Dans un arrêt récent publié aux <ref-ruling>, le Tribunal fédéral a eu l'occasion de préciser la portée de ces notions dans le domaine du droit des assurances sociales. Il a jugé qu'un jugement cantonal qui renvoie la cause pour nouvelle décision, dès lors qu'il ne met pas fin à la procédure ou qu'il ne statue par sur un objet dont le sort est indépendant de celui qui reste litigieux, ne constitue ni une décision finale ni une décision partielle selon la réglementation de la LTF, mais doit être qualifié de décision incidente. Une telle décision ne peut être attaquée qu'aux conditions alternatives de l'<ref-law>, à savoir si elle peut causer un préjudice irréparable (let. a) ou si l'admission du recours peut conduire immédiatement à une décision finale qui permet d'éviter une procédure probatoire longue et coûteuse (let. b).
1.2 En l'occurrence, le dispositif du jugement cantonal entrepris renvoie la cause au SPC pour nouvelle décision après examen des autres conditions de l'assistance juridique, à savoir l'absence de vocation à l'échec et l'état de besoin. Il s'agit donc d'une décision incidente au sens de l'<ref-law>. La jurisprudence considère qu'en principe, un jugement de renvoi ne cause pas de préjudice irréparable au sens de l'<ref-law>, du moment que le justiciable pourra toujours l'attaquer plus tard par un recours contre la décision finale à venir (cf. <ref-law>). La situation est cependant différente pour l'administration ou un assureur social lorsque ceux-ci sont contraints par le jugement incident à rendre une décision à leurs yeux contraire au droit et qu'ils ne pourront eux-mêmes pas attaquer. Dans ce cas, un tel jugement peut être attaqué sans attendre le prononcé du jugement final (<ref-ruling> consid. 5.2, 5.2.1 à 5.2.4 p. 483 ss; ATF 8C_682/2007 du 30 juillet 2008 consid. 1.2.1).
En l'espèce, le jugement cantonal attaqué a un effet contraignant pour le SPC en ce sens que celui-ci doit statuer sur le droit de l'intéressé à l'assistance juridique dans la procédure d'opposition tout en étant lié quant à l'une des conditions de ce droit, à savoir la nécessité d'un avocat en procédure d'opposition. Dans ces conditions, le jugement incident entraîne manifestement un préjudice irréparable, de sorte que le recours est recevable.
2. Le recours en matière de droit public (<ref-law>) peut être formé pour violation du droit au sens des art. 95 et 96 LTF. Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (<ref-law>), sous réserve des cas prévus à l'<ref-law>. Cette disposition lui donne la faculté de rectifier ou compléter d'office l'état de fait de l'arrêt attaqué dans la mesure où des lacunes ou erreurs dans l'établissement de celui-ci lui apparaîtraient d'emblée comme manifestes. Quant au recourant, il ne peut critiquer la constatation de faits importants pour le jugement de la cause que si ceux-ci ont été constatés en violation du droit au sens de l'<ref-law> ou de manière manifestement inexacte (<ref-law>).
Selon l'<ref-law>, le Tribunal fédéral applique le droit d'office et n'est donc pas limité par les arguments du recourant, ni par la motivation de l'autorité précédente. En outre, il ne peut aller au-delà des conclusions des parties (<ref-law>).
3. 3.1 Dans la procédure administrative en matière d'assurances sociales, l'assistance gratuite d'un conseil juridique est accordée au demandeur lorsque les circonstances l'exigent (<ref-law>). La LPGA a ainsi introduit une réglementation légale de l'assistance juridique dans la procédure administrative (<ref-ruling> consid. 3.1 p. 155; Ueli Kieser, ATSG-Kommentar: Kommentar zum Bundesgesetz über den Allgemeinen Teil des Sozialversicherungsrecht vom 6. Oktober 2000, Zurich 2003, n. 22 ad art. 37).
3.2 Les conditions d'octroi de l'assistance judiciaire gratuite sont en principe réalisées si les conclusions ne paraissent pas vouées à l'échec, si le requérant est dans le besoin et si l'assistance d'un avocat est nécessaire ou du moins indiquée (<ref-ruling> consid. 4a p. 202, 371 consid. 5b p. 372 et les références).
Le point de savoir si l'assistance d'un avocat est nécessaire ou du moins indiquée doit être tranché d'après les circonstances concrètes objectives et subjectives. Pratiquement, il faut se demander pour chaque cas particulier si, dans des circonstances semblables et dans l'hypothèse où le requérant ne serait pas dans le besoin, l'assistance d'un avocat serait judicieuse, compte tenu du fait que l'intéressé n'a pas lui-même des connaissances juridiques suffisantes et que l'intérêt au prononcé d'un jugement justifierait la charge des frais qui en découlent (<ref-ruling> consid. b p. 47, 98 V 115 consid. 3a p. 118; cf. aussi <ref-ruling> consid. 2.2 p. 182, 128 I 225 consid. 2.5.2 p. 232 et les références).
3.3 Ces conditions d'octroi de l'assistance judiciaire, posées par la jurisprudence sous l'empire de l'art. 4 aCst., sont applicables à l'octroi de l'assistance gratuite d'un conseil juridique dans la procédure d'opposition (arrêt M. du 29 novembre 2004, I 557/04, consid. 2.1, publié à la Revue de l'avocat 2005 n. 3 p. 123). Toutefois, le point de savoir si elles sont réalisées doit être examiné à l'aune de critères plus sévères dans la procédure administrative (Kieser, op. cit., n. 20 ad art. 37).
A cet égard, il y a lieu de tenir compte des circonstances du cas d'espèce, de la particularité des règles de procédure applicables, ainsi que des spécificités de la procédure administrative en cours. En particulier, il faut mentionner, en plus de la complexité des questions de droit et de l'état de fait, les circonstances qui tiennent à la personne concernée, comme sa capacité de s'orienter dans une procédure. Dès lors, le fait que l'intéressé puisse bénéficier de l'assistance de représentants d'associations, d'assistants sociaux ou encore de spécialistes ou de personnes de confiance oeuvrant au sein d'institutions sociales permet d'inférer que l'assistance d'un avocat n'est ni nécessaire ni indiquée (arrêt M. du 29 novembre 2004, I 557/04, déjà cité, consid. 2.2). En règle générale, l'assistance gratuite est nécessaire lorsque la procédure est susceptible d'affecter d'une manière particulièrement grave la situation juridique de l'intéressé. Sinon, une telle nécessité n'existe que lorsque à la relative difficulté du cas s'ajoute la complexité de l'état de fait ou des questions de droit, à laquelle le requérant n'est pas apte à faire face seul (<ref-ruling> consid. 2.2 p. 182 et les références).
4. 4.1 Le SPC a considéré que l'assistance d'un avocat n'était pas nécessaire, du moment que l'affaire n'était pas suffisamment complexe. Selon l'administration, la cause ne réclamait pas une analyse approfondie puisque l'opposition reposait uniquement sur l'allégation que l'intéressé avait informé l'qu'il percevait une rente de l'AVS depuis le 1er février 1999.
La juridiction cantonale a réfuté ce point de vue. Elle a constaté que l'intéressé s'exprime mal en français, qu'il est illettré, ne sachant pas lire l'arabe (sa langue maternelle) ni le français. Elle a inféré de ces constatations qu'il n'était pas en mesure de saisir les enjeux de l'affaire, cela d'autant moins que les procédures en matière de prestations complémentaires sont particulièrement complexes en raison des nombreuses décisions rendues successivement dans cette matière. En outre, les premiers juges ont considéré que sa situation personnelle empêchait l'intéressé de défendre ses intérêts dans la procédure d'opposition en démontrant que le SPC était informé du fait qu'il percevait une rente de vieillesse et que la demande de restitution était ainsi injustifiée. Aussi, la juridiction cantonale est-elle d'avis que l'assistance d'un avocat était nécessaire en procédure d'opposition.
Le recourant ne remet pas en cause les constatations de la juridiction cantonale en ce qui concerne la situation personnelle de l'intéressé et son incapacité de s'orienter seul dans la procédure. En revanche, il nie que la cause fût complexe au point de réclamer l'assistance d'un avocat dans la procédure d'opposition. Il fait valoir qu'en effet, cette procédure concernait uniquement le montant des prestations complémentaires perçues en trop étant donné que la rente de vieillesse n'avait pas été prise en compte dans le calcul, ainsi que l'obligation de restituer qui en découle. Il ajoute qu'au demeurant, la décision de restitution des prestations complémentaires était accompagnée d'un récapitulatif complet des prestations allouées et de celles auxquelles l'intéressé avait réellement droit. Étant donné l'absence de complexité de la cause, des représentants d'associations, des assistants sociaux ou encore des spécialistes ou des personnes de confiance oeuvrant au sein d'institutions sociales pouvaient dès lors parfaitement aider l'intéressé à s'orienter dans la procédure d'opposition.
4.2 Le point de vue du recourant est bien fondé. Certes, il est indéniable que l'intéressé n'était pas en mesure de s'orienter seul dans la procédure d'opposition en raison de ses difficultés de comprendre le français et de s'exprimer dans cette langue. S'il avait besoin de l'aide d'un tiers, en revanche, les difficultés de la cause n'étaient pas telles qu'il dût être assisté par un avocat. L'opposition était dirigée contre une décision par laquelle le SPC réclamait la restitution de prestations complémentaires perçues en trop. Or, une telle obligation n'est pas liée à une violation de l'obligation de renseigner (<ref-ruling> consid. 2e p. 139); il s'agit simplement de rétablir l'ordre légal après la découverte du fait nouveau - en l'occurrence l'allocation d'une rente de vieillesse de l'AVS - justifiant une révision d'une décision antérieure (<ref-ruling> consid. 3a p. 21, 134 consid. 2c p. 138, 169 consid. 4a p. 173, et les références). Cela étant, il n'incombait pas à l'intéressé - ou à un tiers l'assistant - de démontrer, comme l'indique la juridiction cantonale, que le SPC était informé du fait qu'il percevait une rente de vieillesse et que la demande de restitution était ainsi injustifiée. De telles allégations se rapportent à la procédure en matière de remise de l'obligation de restituer, laquelle n'était pas litigieuse en procédure d'opposition. Par ailleurs, le fait que la demande de restitution portait sur une période durant laquelle plusieurs décisions avaient été rendues successivement ne rendait pas la cause particulièrement complexe étant donné que la décision de restitution était accompagnée d'un décompte des prestations allouées. Cela étant, des personnes comme des représentants d'associations, des assistants sociaux ou encore des spécialistes ou des personnes de confiance oeuvrant au sein d'institutions sociales étaient objectivement en mesure d'assister l'intéressé dans la procédure d'opposition. A cet égard, le fait que l'intimé ne souhaitait pas, pour des raisons personnelles, recourir à l'aide d'assistants sociaux n'est pas déterminant, du moment que les faits reprochés à ces derniers ne sont pas établis.
4.3 Vu ce qui précède, le SPC était fondé, par sa décision du 5 octobre 2007, à rejeter la demande d'assistance juridique pour la procédure d'opposition. Le recours se révèle ainsi bien fondé.
5. L'intimé, qui succombe, supportera les frais judiciaires (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis et le jugement du Tribunal cantonal des assurances sociales du canton de Genève du 27 février 2008 est annulé.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge de l'intimé.
3. Le présent arrêt sera communiqué aux parties, au Tribunal cantonal des assurances sociales du Canton de Genève et à l'Office fédéral des assurances sociales.
Lucerne, le 23 septembre 2008
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: Le Greffier:
Ursprung Beauverd