A.- L'Office cantonal genevois de l'assurance-invalidité (ci-après : l'office AI) a, le 22 septembre 1998, refusé d'allouer à S._, ressortissant portugais domicilié à Genève, les prestations qu'il demandait.
Saisie d'un recours du prénommé contre cette décision, la Commission cantonale de recours en matière d'AVS-AI-APG du canton de Genève (ci-après : la commission) l'a annulée par jugement du 2 juillet 1999 et a renvoyé la cause à l'office AI pour expertise médicale.
Dans le cadre de cette instruction complémentaire, l'assuré a été examiné par les médecins du Centre d'observation médicale de l'assurance-invalidité de Bellinzone (ci-après : COMAI). En date du 4 novembre 1999, le COMAI a rendu son rapport, rédigé en italien et accompagné de trois rapports psychiatrique, orthopédique et neurologique, également en italien.
Le 14 février 2000, S._ a requis de l'office AI une traduction dudit rapport, ce qui lui a été refusé par courrier du 31 mars 2000. En réponse, l'assuré a précisé que le refus de traduire le document en question l'empêchait de faire valoir son droit d'être entendu, dans la mesure où, ne comprenant pas l'italien, il ne lui était pas possible de se déterminer.
Par décision du 8 mai 2000, l'office AI a derechef rejeté la demande de prestations. Se fondant sur l'expertise du COMAI, il a retenu que S._ disposait d'une capacité résiduelle de travail de 75 % dans sa profession de maçon, ce qui entraînait, par comparaison avec le revenu obtenu sans invalidité, une perte de gain de "l'ordre de 27 %", insuffisante pour ouvrir le droit à une rente.
B.- Se plaignant notamment d'une violation de son droit d'être entendu, l'assuré a formé recours contre la décision du 8 mai 2000 devant la commission. Statuant en la voie incidente, la juridiction cantonale a, par décision du 23 avril 2001, imparti un délai à l'office AI "afin de faire procéder à ses frais à la traduction de l'expertise du COMAI en langue française".
C.- L'office AI interjette recours de droit administratif contre cette décision dont il demande l'annulation, en concluant à ce que la cause soit renvoyée à la commission pour jugement sur le fond.
S._ conclut, avec suite de dépens, à la confirmation de la décision attaquée; il sollicite le bénéfice de l'assistance judiciaire.
L'Office fédéral des assurances sociales préavise pour l'admission du recours.
Interpellées par le juge délégué, les parties ont procédé à un second échange d'écritures et elles ont chacune maintenu leurs conclusions.

Considérant en droit :
1.- a) La décision déférée au Tribunal fédéral des assurances, par laquelle les premiers juges ordonnent au recourant de faire traduire en français, à ses frais, le rapport d'expertise établi par le COMAI en italien, ne tranche pas définitivement une question de droit matériel.
Elle ne statue pas davantage sur les droits des parties, mais porte sur un point de procédure, de sorte qu'il s'agit d'une décision incidente. Le recours de droit administratif n'est donc recevable - séparément d'avec le fond - que si la décision attaquée, entre autres conditions, peut causer un préjudice irréparable au recourant (art. 97 al. 1 et 128 OJ en corrélation avec les art. 5 al. 2 et 45 PA; <ref-ruling> consid. 2a et les références). S'agissant d'un recours de droit administratif, la jurisprudence admet cependant qu'il suffit que le recourant ait un intérêt digne de protection à ce que la décision attaquée soit immédiatement annulée ou modifiée (<ref-ruling> consid. 2a et les références). Un intérêt de nature juridique n'est pas exigé; un simple intérêt économique peut aussi être digne de protection (<ref-ruling> consid. 2a, 120 Ib 100 consid. 1c).
b) Dans le cas particulier, l'exigence d'un intérêt digne de protection est remplie, dans la mesure où le recourant pourrait être amené à faire traduire le rapport d'expertise médicale en question. Cela supposerait le recours éventuel à un traducteur spécialisé dans le domaine médical et serait donc susceptible d'occasionner des frais assez importants, dès lors que ledit rapport comporte quatorze pages et trois annexes, de deux à trois pages chacune. La situation est à cet égard différente de celle qui prévalait dans un arrêt non publié B. du 28 septembre 1988, I 239/88, où il s'agissait, pour la Caisse suisse de compensation de produire une prise de position en allemand.
En tant qu'organisme trilingue, elle pouvait donner suite sans difficulté à cette injonction, de sorte que l'existence d'un dommage irréparable avait été niée.
2.- a) Dans un arrêt rendu le 10 août 2001, publié aux <ref-ruling>, le Tribunal fédéral des assurances, se fondant sur la garantie constitutionnelle de la non-discrimination du fait notamment de la langue (art. 8 al. 2 Cst.) et la liberté de la langue (art. 18 Cst.), a jugé que, sauf exception justifiée pour des raisons objectives, il y a lieu en principe de donner suite à la demande d'un assuré de désigner un Centre d'observation médicale où l'on s'exprime dans l'une des langues officielles de la Confédération qu'il maîtrise. A défaut, l'intéressé a le droit non seulement d'être assisté par un interprète lors des examens médicaux mais encore d'obtenir gratuitement une traduction du rapport d'expertise du COMAI (<ref-ruling> consid. 2b/bb).
b) En l'espèce, le problème se présente différemment dès lors que c'est la juridiction cantonale qui, dans sa décision incidente, a ordonné au recourant de fournir une traduction en français d'un rapport du COMAI. Il faut donc se placer du point de vue des relations entre l'autorité judiciaire et le justiciable; sous cet angle, la portée du principe de la liberté de la langue est nuancée par les principes constitutionnels de la langue officielle et de la territorialité des langues (art. 70 al. 2 Cst.).
aa) D'après la jurisprudence rendue sous l'empire de la Constitution de 1874, la liberté de la langue faisait partie des libertés non écrites de la Constitution fédérale.
Elle garantit l'usage de la langue maternelle, ou d'une autre langue proche, voire de toute langue de son choix. Lorsque cette langue est en même temps une langue nationale, son emploi était en outre protégé par l'art. 116 al. 1 aCst. Dans les rapports avec les autorités toutefois, la liberté de la langue est limitée par le principe de la langue officielle. En effet, sous réserve de dispositions particulières (par exemple les art. 5 par. 2 et 6 par. 3 let. a CEDH), il n'existe en principe aucun droit à communiquer avec les autorités dans une autre langue que la langue officielle. Celle-ci est elle-même liée au principe de la territorialité, au sens où elle correspond normalement à la langue qui est parlée dans le territoire concerné.
Ces principes ont été formalisés dans la Constitution de 1999, notamment aux art. 18 et 70 (sur ces divers points : <ref-ruling> consid. 3b/aa et les références citées).
bb) Le principe de la territorialité des langues a pour conséquence que les parties doivent s'adresser aux autorités judiciaires cantonales dans la langue officielle du canton (<ref-ruling>; RDAT 1993 II no 78 p. 215; Marco Borghi, Langues nationales et langues officielles, in :
Daniel Thürer/Jean-François Aubert/Jörg-Paul Müller [éd. ], Droit constitutionnel suisse, Zurich 2001, § 37 ch. 39; en ce qui concerne la procédure administrative dans le domaine de l'assurance-invalidité : Stéphane Blanc, La procédure administrative en assurance-invalidité, thèse Fribourg, 1999, p. 125 sv.). Selon la jurisprudence, dans les relations avec ses autorités, les cantons peuvent imposer leur langue officielle comme langue judiciaire et exiger la traduction des actes de procédure rédigés dans une autre langue, fût-elle l'une des langues officielles de la Confédération (SJ 1998 p. 312 consid. 3 et les références).
Si dans le canton de Neuchâtel par exemple, la jurisprudence cantonale considère que l'exigence du dépôt d'une traduction littérale et rigoureuse en langue française ne se justifie pas dans des cas simples (RJN 1991 p. 230), il n'en va pas de même à Genève où tout document soumis au juge doit être rédigé dans la langue officielle ou accompagné d'une traduction dans cette langue; cette règle vaut pour tous les écrits émanant directement du juge ou des parties, ainsi que pour les pièces qu'elles produisent (Bertossa/Gaillard/Guyet, Commentaire de la loi de procédure civile genevoise, nos 2 et 3 ad art. 9; Bauer/Lévy, L'exception de traduction de pièces, in: SJ 1982 p. 50; voir aussi l'art. 9 de la loi genevoise de procédure civile du 10 avril 1987 [LPC/GE; RSGE E 3 05]).
Quoi qu'il en soit, l'importance de l'expertise ordonnée par l'office AI comme moyen probatoire est telle que l'assuré a dans tous les cas le droit d'en recevoir une copie et d'exprimer son opinion sur la façon dont elle a été conduite et sur les faits et conclusions établis (<ref-ruling> consid. 1b; Blanc, op. cit. , p. 143). Il s'agit d'une pièce essentielle du dossier, qui est de nature à sceller le sort de la procédure. Il est donc parfaitement admissible, au regard du principe de la territorialité, que la juridiction cantonale en exige une traduction dans la langue officielle du canton, en l'occurrence la langue française (cf. <ref-law>/GE).
c) Quant aux arguments soulevés par le recourant, ils n'apparaissent pas déterminants. Il en va ainsi de l'argumentation selon laquelle l'avocat de l'intimé parlerait parfaitement l'italien, ce que celui-ci conteste d'ailleurs.
L'emploi de la langue officielle est un principe qui est dans l'intérêt du plaideur tout autant que dans celui du tribunal. Au demeurant, une partie n'abuse pas de son droit si elle requiert la traduction des pièces rédigées dans une langue qu'elle connaît parfaitement (arrêt du Tribunal fédéral du 25 juin 1991 [5P. 65/1991] en la cause B.SA consid. 4a non publié dans la SJ 1991 p. 611, cité dans la SJ 1998 p. 312 consid. 3). Cette jurisprudence s'impose à plus forte raison quand c'est le mandataire qui connaît ou est censé connaître la langue en question. On ne saurait de surcroît exiger d'un avocat qu'il établisse à l'intention de son client une traduction littérale d'un rapport d'expertise médicale. D'autre part, le médecin traitant ou un autre médecin consulté par l'assuré à son lieu de domicile doit, au besoin, être en mesure de prendre position sur le rapport d'expertise, afin que l'intéressé soit à même d'exercer utilement ses droits.
Enfin, les considérations d'ordre pratique avancées par le recourant, relatives à l'existence d'un seul COMAI en Suisse romande et au nombre croissant des demandes d'expertises pluridisciplinaires, ne justifient pas de s'écarter du principe, indiscutable, selon lequel les parties doivent s'adresser aux autorités dans la langue officielle du canton.
d) Il suit de ce qui précède que le recours est mal fondé. Dès lors, il appartiendra aux premiers juges d'impartir au recourant un nouveau délai pour produire une copie du rapport d'expertise du COMAI du 4 novembre 1999, accompagnée d'une traduction française.
3.- S'agissant d'une décision incidente dans un litige qui concerne, au fond, l'octroi ou le refus de prestations d'assurance, la procédure est gratuite (art. 134 OJ). En outre, l'intimé, qui obtient gain de cause, a droit à des dépens (art. 135 OJ en corrélation avec l'art. 159 OJ). La demande d'assistance judiciaire est dès lors sans objet.

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est rejeté.
II. Il n'est pas perçu de frais de justice.
III. L'office cantonal genevois de l'assurance-invalidité versera à l'intimé la somme de 2500 fr. (y compris la taxe sur la valeur ajoutée) à titre de dépens pour la
procédure fédérale.
IV. Le présent arrêt sera communiqué aux parties, à la Commission cantonale de recours en matière d'assurance-vieillesse, survivants et invalidité du canton
de Genève et à l'Office fédéral des assurances
sociales.
Lucerne, le 27 février 2002
Au nom du
Tribunal fédéral des assurances
Le Président de la Ière Chambre :
La Greffière :