A.- A._, ressortissant algérien, domicilié en Algérie, a exercé une activité lucrative en Suisse. Le 16 janvier 2000, il a présenté une demande de rente de vieillesse.
Par décision du 18 mai 2000, la Caisse suisse de compensation a rejeté sa requête, motif pris que le prénommé n'avait payé des cotisations que durant neuf mois (de janvier à avril 1961 et de janvier à mai 1962), de sorte que la durée minimale d'assurance d'une année n'était pas réalisée.
B.- A._ a recouru contre cette décision devant la Commission fédérale de recours en matière d'assurance-vieillesse, survivants et invalidité pour les personnes résidant à l'étranger, en alléguant avoir exercé en Suisse une activité lucrative mais avoir perdu tout document pouvant l'attester.
Ce recours a été rejeté par jugement du 5 février 2001.
C.- A._ interjette recours de droit administratif contre ce jugement, dont il demande implicitement l'annulation.
La caisse conclut au rejet du recours. L'Office fédéral des assurances sociales (OFAS) n'a pas présenté de détermination.

Considérant en droit :
1.- a) Aux termes de l'<ref-law>, les étrangers et leurs survivants qui ne possèdent pas la nationalité suisse n'ont droit à une rente qu'aussi longtemps qu'ils ont leur domicile et leur résidence habituelle en Suisse. Toute personne qui se voit octroyer une rente doit personnellement satisfaire à cette exigence. Sont réservées les dispositions spéciales de droit fédéral relatives au statut des réfugiés et des apatrides ainsi que les conventions internationales contraires, conclues en particulier avec des Etats dont la législation accorde aux ressortissants suisses et à leurs survivants des avantages à peu près équivalents à ceux de la présente loi.
b) Selon la jurisprudence, lorsque le droit à une rente ordinaire de vieillesse ou de survivant dépend de la nationalité de l'assuré, est déterminante la nationalité de l'intéressé à l'époque du paiement des cotisations à l'AVS ou lors de l'ouverture du droit à la rente. Dans le cas où une personne a changé de nationalité, il convient également de prendre en considération cette situation de manière alternative : lors du paiement des cotisations à l'AVS ou lors de l'ouverture du droit à la rente. En effet, lorsqu'un assuré possède ou a possédé, à l'une de ces deux époques, la nationalité suisse ou celle d'un Etat ayant conclu une convention de sécurité sociale avec la Suisse, cette nationalité est déterminante pour son droit à une rente ordinaire de vieillesse (<ref-ruling>; <ref-ruling>, bas de page).
2.- a) En l'espèce, au moment du paiement des cotisations à l'AVS, soit à tout le moins jusqu'en juillet 1962, le recourant avait la nationalité française. C'est donc le droit applicable aux assurés de cette nationalité qui s'applique au recourant. En l'occurrence, les ressortissants français étaient au bénéfice de la convention franco-suisse du 9 juillet 1949 relative à l'assurance-vieillesse et survivants (cf. SVR, 1997 AHV n° 123 p. 375).
Aux termes de l'art. 5 let. b de ladite convention, les ressortissants français ont droit aux rentes ordinaires de vieillesse prévues par la loi fédérale suisse sur l'assurance-vieillesse et survivants si, lors de la réalisation de l'événement assuré, ils ont versé à l'assurance suisse des cotisations pendant au total cinq années entières au moins ou ont habité au total dix années en Suisse et ont, durant ce temps, payé des cotisations à l'assurance pendant au total une année entière au moins.
En l'espèce, comme l'a constaté à juste titre la commission de recours, il ressort du dossier que le recourant a payé des cotisations en Suisse pendant une durée de neuf mois seulement. Certes, le recourant allègue avoir travaillé en Suisse pour d'autres employeurs que ceux dont les cotisations ont été comptabilisées entre 1961 et 1962.
Invité par la caisse intimée à produire des documents à l'appui de ses affirmations, il n'y a cependant donné aucune suite, se contentant, comme en instance fédérale de simples allégations. Il n'a ainsi donné aucune indication sur l'identité de ses éventuels employeurs, ni fourni quelque renseignement que ce soit sur les activités qu'il aurait exercées en Suisse. Les allégations du recourant ne sont manifestement pas de nature à établir l'inexactitude des inscriptions consignées dans les extraits de son compte individuel (cf. <ref-law>; <ref-ruling> sv., 110 V 97 consid. 4a).
Au vu de ce qui précède, la condition de la durée de cotisation de cinq ans n'étant pas remplie, le recourant n'a pas droit à une rente ordinaire de vieillesse. Le recours se révèle donc mal fondé.
b) Il y a lieu de relever que l'on n'arrive pas à une conclusion différente si l'on prend en considération la situation du recourant au moment de l'ouverture de l'éventuelle rente. En effet, il ressort du dossier qu'au moment de l'accomplissement de sa soixante-cinquième année, le recourant avait la nationalité algérienne. Or, la Suisse n'a pas conclu de convention de sécurité sociale avec l'Algérie. Comme le recourant n'est pas domicilié en Suisse, il ne remplit pas l'une des conditions légales posées par l'<ref-law>. Abstraction faite de cette condition, le recourant n'aurait de toute façon pas droit à une rente s'il était domicilié en Suisse, parce qu'il ne compte pas une année de revenus ou de bonifications pour tâches éducatives ou d'assistance au moins (<ref-law>).
3.- Il convient, en outre, de préciser que la question du droit au remboursement des cotisations versées à l'AVS suisse, évoquée par le premier juge, ne constitue pas l'objet du litige, déterminé par la décision du 18 mai 2000 de la caisse intimée, qui porte uniquement sur le droit à la rente du recourant. Il n'y a donc pas lieu d'examiner cette question, étant précisé que le recourant a la possibilité de demander le remboursement des cotisations.
Le cas échéant, le droit au remboursement des cotisations non formatrices de rente devrait alors être apprécié alternativement à la lumière de la Convention entre la Suisse et la France du 9 juillet 1949 (art. 5 let. d) et du droit suisse.

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est rejeté.
II. Il n'est pas perçu de frais de justice.
III. Le présent arrêt sera communiqué aux parties, à la Commission fédérale de recours en matière d'assurance- vieillesse, survivants et invalidité pour les personnes
résidant à l'étranger, et à l'Office fédéral
des assurances sociales.
Lucerne, le 18 septembre 2001
Au nom du
Tribunal fédéral des assurances
Le Président de la IIe Chambre :
La Greffière :