A.- A._, ressortissant espagnol, né le 28 mai 1933, s'est marié le 5 août 1957. Divorcé, il s'est remarié le 24 mai 1988.
Par décision du 16 juin 1999, la Caisse suisse de compensation (ci-après : la caisse) lui a alloué une indemnité forfaitaire d'un montant de 25 381 fr., en lieu et place d'une rente ordinaire de vieillesse à partir du 1er juin 1998, assortie d'indemnités forfaitaires de 4159 fr. pour sa fille S._, née en 1988, et de 3796 fr. pour son fils F._, né en 1987. Ces prestations étaient fondées sur une durée de cotisation de six années et deux mois, un revenu annuel moyen déterminant de 16 716 fr. et l'échelle de rente 4. Le revenu annuel moyen avait été calculé compte tenu d'une répartition des revenus entre époux pour les années du premier mariage de l'assuré.
B.- A._ a recouru contre cette décision devant la Commission fédérale de recours en matière d'AVS/AI pour les personnes résidant à l'étranger. Contestant la répartition des revenus entre époux pour les années de son premier mariage, il concluait implicitement à l'octroi de prestations plus élevées.
Par jugement du 2 février 2001, la commission de recours a admis le recours dont elle était saisie et a renvoyé la cause à la caisse pour qu'elle fixe à nouveau le montant des indemnités forfaitaires allouées, compte tenu du droit de l'assuré à une bonification transitoire au sens des dispositions transitoires de la 10ème révision de l'AVS.
C.- L'Office fédéral des assurances sociales (OFAS) interjette recours de droit administratif contre ce jugement, dont il demande l'annulation.
A._ n'a pas répondu au recours. La caisse conclut implicitement à l'admission de celui-ci.

Considérant en droit :
1.- Le litige porte sur le point de savoir si l'intimé a droit à une bonification transitoire au sens de la let. c al. 2 et 3 des dispositions finales de la modification de la LAVS du 7 octobre 1994 (10ème révision de l'AVS).
a) Aux termes de cette disposition légale, les rentes de vieillesse allouées aux personnes veuves et divorcées ("Bei der Berechnung der Altersrenten von verwitweten und geschiedenen Personen. .."; "Nel calcolare le rendite di vecchiaia da assegnare alle persone vedove e divorziate. ..") qui sont nées avant le 1er janvier 1953 et à qui l'on n'a pas pu attribuer pendant 16 ans au moins des bonifications pour tâches éducatives ou pour tâches d'assistance sont calculées en tenant compte d'une bonification transitoire (al. 2). La bonification transitoire correspond au montant de la moitié de la bonification pour tâches éducatives.
Elle est échelonnée en fonction de l'année de naissance du bénéficiaire d'une rente de vieillesse (al. 3).
b) En l'espèce, l'intimé était remarié au moment de l'ouverture du droit à la rente de vieillesse. Toutefois, comme il était auparavant divorcé d'avec sa première épouse, la commission de recours a considéré implicitement qu'il pouvait se prévaloir de la let. c al. 2 et 3 disp.
trans.
De son côté, l'OFAS fait valoir que l'octroi d'une bonification transitoire suppose que l'assuré soit veuf ou divorcé au moment de l'ouverture du droit à la rente de vieillesse.
2.- a) La loi s'interprète en premier lieu selon sa lettre. Selon la jurisprudence, il n'y a lieu de déroger au sens littéral d'un texte clair par voie d'interprétation que lorsque des raisons objectives permettent de penser que ce texte ne restitue pas le sens véritable de la disposition en cause. De tels motifs peuvent découler des travaux préparatoires, du but et du sens de la disposition, ainsi que de la systématique de la loi. Si le texte n'est pas absolument clair, si plusieurs interprétations de celui-ci sont possibles, il convient de rechercher quelle est la véritable portée de la norme, en la dégageant de tous les éléments à considérer, soit notamment des travaux préparatoires, du but de la règle, de son esprit, ainsi que des valeurs sur lesquelles elle repose ou encore de sa relation avec d'autres dispositions légales (<ref-ruling> consid. 4a, 92 consid. 1d, 198 consid. 2c et les références).
b) En l'occurrence, le texte de la let. c al. 2 et 3 disp. trans. n'est pas absolument clair (cf. <ref-ruling> consid. 4 à propos de l'<ref-law> qui contient une formulation semblable). Il convient donc de rechercher quelle est la véritable portée de cette norme.
L'allocation d'une bonification transitoire à une personne divorcée et remariée au moment de la naissance du droit à la rente ne trouve aucun appui dans les travaux préparatoires (BO 1993 CN 298; BO 1994 CE 565). Par ailleurs, comme le relève l'OFAS dans son recours, le but de la bonification transitoire est d'améliorer ou de maintenir la situation financière des personnes sans enfant qui sont veuves ou divorcées au moment de l'ouverture du droit à la rente. En effet, en raison de l'introduction du système de la répartition des revenus (art. 29quinquies al. 3 let. b et c LAVS), leur rente subit une perte qui n'est pas compensée par l'apport de bonifications pour tâches éducatives.
Aussi, pour éviter que ces personnes soient trop défavorisées, tient-on compte, dans le calcul de leur rente, d'une bonification transitoire. En revanche, si un assuré, auparavant veuf ou divorcé, est remarié au moment de l'ouverture du droit à la rente, cette situation est différente puisqu'il peut, en principe, profiter ainsi de la répartition des revenus réalisés au cours du second mariage. Par "personnes veuves et divorcées", il faut donc comprendre les personnes qui ont cet état civil au moment de l'ouverture du droit à la rente de vieillesse.
c) En l'espèce, dans la mesure où l'intimé était remarié au moment de l'ouverture du droit à la rente, il n'a pas droit à une bonification transitoire. Le recours se révèle ainsi bien fondé.

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est admis et le jugement de la Commission
fédérale de recours en matière d'AVS/AI pour les personnes
résidant à l'étranger du 2 février 2001 est
annulé.
II. Il n'est pas perçu de frais de justice.
III. Le présent arrêt sera communiqué aux parties, à la Commission fédérale de recours en matière d'assurance- vieillesse, survivants et invalidité pour les personnes
résidant à l'étranger et à la Caisse suisse de
compensation.
Lucerne, le 5 avril 2002
Au nom du
Tribunal fédéral des assurances
Le Président de la Ière Chambre :
Le Greffier :