Faits :
A.
A.a. Ressortissant grec, A._ est arrivé en Suisse en mai 1973. Du 10 mai 1973 au 1 er mai 1976, il a travaillé auprès de B._, activité pour laquelle des cotisations d'assurance sociale ont été versées au système de la sécurité sociale grec. A._ s'est marié en 1976 et est devenu père de deux enfants. Ayant acquis la nationalité suisse en 1990, il a travaillé auprès de C._ de 1993 jusqu'au 1 er juin 2008.
Saisi d'une demande de prestations de l'assurance-invalidité présentée le 7 janvier 2009 par A._, l'Office de l'assurance-invalidité du canton de Genève (ci-après: l'office AI) l'a mis au bénéfice d'une rente entière d'invalidité à partir du 1 er juillet 2009. Le montant initial de la rente a été fixé à 1'917 fr. par mois, compte tenu d'une durée de cotisations de 33 années et 9 mois, l'échelle de rente 37, 24 années entières de bonifications pour tâches éducatives et un revenu annuel moyen de 86'184 fr. (décision du 18 décembre 2009). À partir du 1 er janvier 2011, le montant de la rente s'est élevé à 1'951 fr.
A.b. Le 24 février 2012, A._ a présenté une demande de rente de l'assurance-vieillesse et survivants auprès de la Caisse genevoise de compensation (ci-après: la caisse). Celle-ci a informé l'assuré que sa rente d'invalidité serait remplacée par une rente de vieillesse à partir du 1er mai 2012 et sollicité des renseignements de l'Office cantonal genevois de la population quant aux périodes de résidence de l'intéressé à Genève, le type de permis de séjour et les exemptions avant sa naturalisation. Par décision du 24 avril 2012, la caisse a alloué à A._ une rente ordinaire de vieillesse de 1'951 fr. par mois dès le 1er mai 2012, calculée en fonction des mêmes éléments que ceux à la base de la rente d'invalidité versée précédemment.
Après avoir reçu les informations requises de l'Office cantonal genevois de la population, la caisse a rendu une nouvelle décision, le 21 juin 2012, annulant et remplaçant son prononcé précédent, par laquelle elle a fixé le montant de la rente de vieillesse à 1'740 fr. dès le 1er mai 2012. Le calcul a été effectué en tenant compte de la période d'exemption à l'assurance sociale suisse pendant laquelle l'assuré avait travaillé pour B._. La caisse a par ailleurs requis de A._ la restitution de 422 fr. correspondant au montant perçu en trop depuis le 1er mai 2012. Le prénommé a fait opposition contre cette décision.
Le même jour, l'office AI a rendu une décision par laquelle il a annulé et remplacé la rente de l'assurance-invalidité versée du 1er juin 2011 au 30 avril 2012 par une rente d'un montant de 1'740 fr. En bref, au vu de la période d'exemption de mai 1973 à avril 1976, il a effectué un nouveau calcul de la prestation en fonction d'une durée de cotisations de 30 ans et 4 mois, l'échelle de rente 33 et un revenu annuel déterminant de 91'872 fr. Il a en outre fixé à 2'321 fr. la somme versée en trop à l'assuré, dont il lui a demandé la restitution.
B.
A._ a déféré la décision de l'office AI à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales. Après avoir suspendu la cause jusqu'à ce que la caisse eût rendu sa décision sur opposition (jugement du 29 octobre 2012 ) - ce que celle-ci a fait le 17 juillet 2013 -, la Cour de justice a admis le recours de l'assuré par arrêt du 9 décembre 2013. Annulant la décision de l'office AI du 21 juin 2012 (ch. 1 du dispositif), elle lui a renvoyé la cause pour nouveau calcul du montant de la rente d'invalidité conformément aux considérants, puis nouvelle décision (ch. 2 du dispositif). Elle a par ailleurs condamné l'office AI à verser à l'assuré une indemnité de 1'000 fr. au titre de dépens et mis à sa charge un émolument de 500 fr. (ch. 3 et 4 du dispositif).
C.
Agissant par la voie du recours en matière de droit public, l'office AI demande au Tribunal fédéral d'annuler le jugement cantonal "en tant qu'il conclut à la prise en compte des périodes de cotisations étrangères dans le calcul du montant de la rente de l'assurance-invalidité de Monsieur A._, soit du 10 mai 1973 au 1 er mai 1976". Il prend également diverses conclusions en constatation de violations du droit par la Chambre des assurances sociales. Il demande par ailleurs que l'indemnité de dépens et l'émolument mis à sa charge soient annulés ou à tout le moins réduits.
Sous suite de dépens, A._ conclut à l'irrecevabilité du recours. L'Office fédéral des assurances sociales, Domaine Affaires internationales, a déposé une détermination en faveur de l'admission du recours, sur laquelle A._ s'est exprimé le 12 mai 2014.

Considérant en droit :
1.
1.1. En tant que le jugement entrepris renvoie la cause au recourant pour nouveau calcul du montant de la rente d'invalidité conformément aux considérants, puis nouvelle décision, il doit être qualifié de décision incidente qui ne peut être attaquée qu'aux conditions de l'<ref-law> (<ref-ruling> consid. 4.2 p. 482). Dans les considérants auxquels renvoie le chiffre 2 du dispositif, la juridiction cantonale a retenu que la rente de l'assurance-invalidité pour la période contestée du 1 er juin 2011 au 30 avril 2012 avait été fixée à tort à 1'740 fr. par mois. La prestation devait être calculée en prenant en considération les périodes de cotisations que l'assuré avait effectuées en Grèce, en application de la Convention de sécurité sociale entre la Confédération Suisse et le Royaume de Grèce, du 1 er juin 1973 (RS 0.831.109.372.1). Selon les premiers juges, la prise en compte de ces périodes avait pour conséquence l'application d'une échelle de rente plus élevée que celle retenue lors du calcul initial de la rente de l'assurance-invalidité, parce que l'assuré avait présenté des lacunes de cotisations, soit notamment douze mois en 1974 et neuf mois en 1975.
1.2. Compte tenu de ses considérants, le jugement attaqué contient des instructions impératives destinées à l'autorité inférieure qui ne lui laissent plus aucune latitude de jugement pour la suite de la procédure. Le recourant doit en effet procéder à un nouveau calcul de la rente d'invalidité en prenant en considération les périodes de cotisations grecques. En cela, l'office AI subit un préjudice irréparable au sens de l'<ref-law>, qui se confond, en l'espèce, avec l'exigence d'être touché par la décision attaquée au sens où l'entend la jurisprudence relative à l'art. 89 al. 2 let. d LTF (<ref-ruling> consid. 2.3.1 p. 341). Par conséquent, il convient d'entrer en matière sur le recours, contrairement à ce que prétend l'intimé. Son argumentation, selon laquelle il n'y a plus de "valeur litigieuse" compte tenu de la péremption de la demande de restitution admise par la juridiction cantonale, et à sa suite, par le recourant, n'est pas pertinente, dès lors que celui-ci subit un dommage irréparable du fait du renvoi ordonné par les premiers juges.
1.3. On précisera toutefois que la conclusion du recourant tendant à l'annulation de l'arrêt attaqué (en tant qu'il lui impose la prise en compte des périodes de cotisations étrangères) englobe les conclusions constatatoires relatives au caractère arbitraire et contraire au droit du jugement entrepris. Celles-ci sont dès lors irrecevables car elles n'ont qu'un caractère préparatoire (cf. arrêt 2C_255/2011 du 23 mars 2011 consid. 4.1).
2.
Le recours en matière de droit public peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>). Il n'est donc limité ni par les arguments soulevés dans le recours ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (cf. <ref-ruling> consid. 1.3 p. 519; <ref-ruling> consid. 1.4 p. 140).
3.
3.1. L'autorité cantonale de recours a considéré que le litige dont elle était saisie consistait à examiner si c'est à juste titre que l'office AI avait sollicité de l'assuré la restitution de 2'321 fr., singulièrement le bien-fondé de l'exclusion des périodes de cotisations grecques du 10 mai 1973 au 1 er mai 1976 du calcul du montant de la rente d'invalidité.
Dans un premier temps, la juridiction cantonale a examiné les conditions posées par l'<ref-law> à la restitution de prestations de l'assurance sociale indûment touchées. Elle a constaté que la demande de restitution de l'administration formée le 21 juin 2012 était périmée. Le délai relatif d'un an de l'al. 2 de ladite disposition, qui avait commencé à courir au plus tard lorsque le montant de la rente d'invalidité complémentaire pour enfant avait été fixé le 18 janvier 2010, était largement échu au moment de la demande de restitution. Aussi, l'assuré n'avait-il pas à rembourser le montant de 2'321 fr. Ce point n'est pas contesté par le recourant en instance fédérale.
En second lieu, les premiers juges se sont penchés sur le bien-fondé du nouveau calcul de la rente d'invalidité effectué par l'office AI, qui a exclu la période de cotisations versées en Grèce dans la décision du 21 juin 2012. Ils sont arrivés à la conclusion que cette période devait être prise en considération pour calculer la prestation en cause. Le recourant soutient le contraire.
3.2. Au regard de l'<ref-law> et de la jurisprudence y relative - dûment exposés dans le jugement entrepris auquel on peut renvoyer -, la procédure de restitution de prestations implique trois étapes en principe distinctes: une première décision sur le caractère indu des prestations, soit sur le point de savoir si les conditions d'une reconsidération de la décision par laquelle celles-ci ont été allouées sont réalisées; une seconde décision sur la restitution en tant que telle des prestations, qui comprend en particulier l'examen des effets rétroactifs ou non de la correction à opérer en raison du caractère indu des prestations, à la lumière de l'art. 25 al. 1 première phrase LPGA et, le cas échéant, une troisième décision sur la remise de l'obligation de restituer au sens de l'art. 25 al. 1 2ème phrase LPGA (cf. art. 3 et 4 OPGA; Ueli Kieser, ATSG-Kommentar, 2ème éd., 2009, ad <ref-law>, n° 8 p. 354).
3.3. Dans sa décision du 21 juin 2012, le recourant a admis que les conditions d'une reconsidération de sa décision antérieure de rente (fixant à 1'917 fr. le montant de la rente d'invalidité) étaient réunies. Il a ensuite retenu qu'en raison de la fixation rétroactive de la rente d'invalidité à un montant inférieur (soit 1'740 fr.) à celui de la prestation allouée précédemment, des prestations d'invalidité avaient été versées en trop à l'assuré du 1er juin 2011 au 30 avril 2012. Le solde en sa faveur s'élevait à 2'321 fr., dont il a réclamé la restitution à l'intimé.
Lorsqu'elle a examiné le bien-fondé de l'obligation de restitution, la juridiction cantonale a retenu que la demande en restitution du 21 juin 2012 était périmée au sens de l'<ref-law>, le recourant ayant agi après l'échéance du délai dans lequel il pouvait requérir le remboursement de la créance en restitution. Ce faisant, elle a tranché de manière définitive le litige (en instance cantonale), en statuant sur les aspects relatifs à la restitution des prestations versées en trop: l'intimé n'avait pas à rembourser le montant réclamé.
Dès lors que la prétention de l'office AI était périmée, les premiers juges n'étaient pas en droit de lui renvoyer la cause pour qu'il reprenne le calcul de la rente en fonction de leurs considérations sur la prise en compte des cotisations étrangères dans le calcul de la prestation allouée à l'assuré. Ce renvoi ne pouvait en effet pas avoir d'incidence sur l'obligation de restitution qui a précisément été niée. Par ailleurs, en obligeant l'office AI à procéder par ce biais à un nouveau calcul de la rente d'invalidité pour la période courant du 1 er juin 2011 au 30 avril 2012, en indiquant qu'il en résultait l'application d'une échelle de rente plus élevée que celle retenue lors du calcul initial, l'autorité cantonale de recours contraignait l'administration à reconsidérer la décision fixant le montant initial de la rente, ce que le juge n'est pas habilité à faire (<ref-ruling> consid. 4.1 p. 52).
Par conséquent, le Tribunal fédéral n'a pas à se prononcer, en l'espèce, sur le point de savoir si les conditions de la reconsidération de la décision de rente étaient réalisées, en particulier au regard de la prise en considération des périodes de cotisations de l'assuré à la sécurité sociale grecque, ce que le recourant conteste également dans son écriture.
3.4. Il suit de ce qui précède que la juridiction cantonale n'était pas en droit de renvoyer la cause au recourant pour nouveau calcul de la rente d'invalidité de l'assuré pour la période (rétroactive) du 1er juin 2011 au 30 avril 2012. Aussi, le jugement entrepris doit-il être réformé en ce sens que le ch. 2 de son dispositif doit être annulé.
4.
Vu l'issue du litige, l'intimé doit prendre en charge les frais judiciaires y afférents. Même s'il obtient gain de cause, le recourant ne peut prétendre de dépens (<ref-law>). Compte tenu des circonstances, dans lesquelles le jugement entrepris entraîne inutilement des frais pour l'intimé, il convient de mettre à la charge de la caisse du Tribunal fédéral une indemnité de dépens en faveur de l'intimé.
L'issue du litige n'a pas d'incidence sur la répartition des frais et dépens de première instance, au regard des conclusions de l'intimé en première instance (cf. <ref-law>). Il n'y a dès lors pas lieu de donner droit aux conclusions du recourant relatives aux dépens et émolument fixés en première instance.

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis dans la mesure où il est recevable. Le ch. 2 du dispositif de la décision de la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, du 9 décembre 2013 est annulé. Le recours est rejeté pour le surplus.
2.
Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge de l'intimé.
3.
L'intimé a droit à une indemnité de dépens de 1'000 fr. à la charge de la caisse du Tribunal.
4.
Le présent arrêt est communiqué aux parties, à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 5 juin 2014
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Juge présidant : La Greffière :
Meyer Moser-Szeless