A.- Par décision du 3 mai 2001, l'Office cantonal genevois de l'assurance-invalidité (ci-après : l'office) a refusé d'allouer une rente à R._. L'office se fondait principalement sur un rapport d'expertise, rédigé en langue italienne, du Centre d'observation médicale de l'assurance-invalidité (COMAI) de Bellinzone du 3 dé- cembre 1999. B.- Par écriture du 6 juin 2001, R._ a recouru contre cette décision devant la Commission cantonale genevoise de recours en matière d'AVS/AI (ci-après : la commission cantonale) en demandant, préalablement, une traduction en langue française du rapport d'expertise du COMAI, aux frais de l'office. Statuant le 9 novembre 2001, la commission cantonale a annulé la décision attaquée et a ordonné à l'office de faire procéder à ses frais à la traduction, en langue française, de l'expertise du COMAI. Elle lui a imparti à cet effet un délai échéant le 20 décembre 2001 et l'a invité à reprendre ensuite l'instruction de la cause et à rendre une nouvelle décision. La première page de son jugement (rubrum) mentionne comme suit la composition de la commission : "Pour la Commission : Me Jean-Marie FAIVRE, Président P. RUMO, W. FEHR, Me LOCCIOLA absent, G. CRETTENAND, Membres K. STECK, Greffière-juriste.. " C.- L'office interjette un recours de droit administratif dans lequel il conclut à l'annulation du jugement attaqué et au renvoi de la cause à la commission cantonale pour nouvelle décision. R._ conclut au rejet du recours. Les premiers juges se sont également déterminés à son sujet. Quant à l'Office fédéral des assurances sociales, il ne s'est pas prononcé.