Faits : A. A._, né en 1952, de nationalité portugaise, a travaillé en Suisse depuis 1981 en qualité de maçon au service d'une entreprise de construction. Depuis le 17 mars 1989, il réside en Suisse de manière ininterrompue. Par décisions des 22 août 2000 et 8 octobre 2001, il a été mis au bénéfice d'une rente entière d'invalidité pour la période du 1 er octobre 1997 au 30 avril 1999. La rente était fondée sur un revenu annuel moyen de 75'978 fr., une durée de cotisations (accomplie en Suisse et au Portugal) de 22 années et 4 mois et l'échelle de rente 41. Elle s'est élevée à 1854 fr. par mois (année 1997 et 1998), puis à 1873 fr. (1998). Le 15 juillet 2008, A._ a déposé une nouvelle demande de prestations d'invalidité. Après différentes péripéties de procédure, l'Office de l'assurance-invalidité du canton de Genève a rendu le 4 octobre 2013 une décision par laquelle il lui a accordé une demi-rente d'invalidité à compter du 1 er janvier 2009. La rente mensuelle s'élevait à 681 fr. de janvier 2009 à décembre 2010, à 693 fr. de janvier 2011 à décembre 2012 et à 699 fr. à partir du mois de janvier 2013. Elle était calculée en fonction d'un revenu annuel moyen déterminant de 57'564 fr., d'une durée de cotisations (accomplie en Suisse uniquement) de 22 années et 6 mois, entraînant l'application de l'échelle de rente 31. B. A._ a recouru contre cette décision en contestant le calcul de sa rente. Il reprochait plus particulièrement à l'administration de n'avoir pas pris en compte ses périodes de cotisations accomplies antérieurement au Portugal. Il concluait à l'octroi d'une demi-rente fondée sur l'échelle de rente 44, soit par mois, respectivement, 1'140 fr. (période du 1 er janvier 2009 au 31 décembre 2010), 1'160 fr. (période du 1 er janvier 2011 au 31 décembre 2012) et 1'170 fr. à partir du 1 er janvier 2013. Par jugement du 21 octobre 2014, la Chambre des assurances sociales de la Cour de justice de la République et canton de Genève a admis le recours. Elle a annulé la décision attaquée et renvoyé la cause à l'office de l'assurance-invalidité "pour nouveau calcul du montant de la rente d'invalidité en tenant compte des périodes de cotisations accomplies au Portugal, puis nouvelle décision". C. L'office de l'assurance-invalidité exerce un recours en matière de droit public dans lequel il conclut à l'annulation de l'arrêt cantonal en tant que celui-ci lui impose la prise en compte de périodes de cotisations accomplies au Portugal. A._ conclut au rejet du recours. L'Office fédéral des assurances sociales (OFAS) en propose l'admission.