A.- Le 23 avril 1997, T._, ressortissant algérien, a demandé à la Caisse suisse de compensation de lui rembourser les cotisations qu'il avait versées à l'AVS.
Par décision du 8 juillet 1999, l'administration a rejeté la demande, au motif que le requérant n'avait cotisé à l'AVS que durant 6 mois au total (2 mois en 1963 et 1964, 1 mois en 1965 et en 1966).
B.- T._ a recouru contre cette décision devant la Commission fédérale de recours en matière d'AVS/AI pour les personnes résidant à l'étranger. Il a énuméré huit hôtels et restaurants dans lesquels il allègue avoir travaillé de 1962 à 1968.
En cours de procédure, la Caisse suisse de compensation a transmis la liste des établissements publics désignés par le requérant à la Caisse de compensation Gastrosuisse.
Les renseignements fournis par cette dernière n'ont pas permis de rectifier le compte individuel de l'intéressé.
Par jugement du 2 février 2000, notifié à son destinataire le 1er avril 2000, la commission fédérale a rejeté le recours.
C.- T._ interjette un recours de droit administratif contre ce jugement, dont il demande implicitement l'annulation. Il demande que son dossier soit revu, alléguant derechef qu'il avait travaillé au service de huit hôtels et restaurants durant les années 1960.
Dans sa réponse, la caisse invite la Cour de céans à lui renvoyer le dossier afin que la nationalité effective du recourant, à l'époque où il avait cotisé à l'AVS, puisse être déterminée. L'Office fédéral des assurances sociales n'a pas déposé d'observations.

Considérant en droit :
1.- Le recourant a contesté le bien-fondé du jugement du 2 février 2000 à deux reprises. En premier lieu, il s'est adressé à l'Ambassadeur de Suisse en Algérie, dans une écriture du 1er avril 2000 qui est parvenue à son destinataire le 6 avril 2000; les services de l'ambassade ont fait acheminer ce pli à la commission de recours, qui l'a réceptionné le 26 avril 2000. En second lieu, le recourant a écrit à la commission de recours, le 6 décembre 2000; cette dernière a reçu son écriture le 15 décembre 2000, qu'elle a ensuite transmise au Tribunal fédéral des assurances comme objet de sa compétence.
On ne connaît pas les raisons pour lesquelles l'écriture du recourant du 1er avril 2000 - qui figure au dossier de la commission de recours - n'a pas été transmise à la Cour de céans. Il n'en demeure pas moins qu'un recours a été interjeté en temps utile (art. 32 al. 3 et 106 al. 1 OJ) contre le jugement du 2 février 2000 et que ce mémoire remplit les conditions légales (art. 108 al. 2 OJ). Le recours est donc recevable.
2.- a) Aux termes de l'art. 141 al. 3 RAVS, lorsqu'il n'est pas demandé d'extrait de compte, que l'exactitude d'un extrait de compte n'est pas contestée ou qu'une réclamation a été écartée, la rectification des inscriptions ne peut être exigée, lors de la réalisation du risque assuré, que si l'inexactitude des inscriptions est manifeste ou si elle a été pleinement prouvée.
Selon la jurisprudence, il convient, pour des motifs de sécurité juridique, de se montrer strict en matière d'appréciation des preuves, surtout lorsqu'une telle affirmation est faite après plusieurs années, à l'occasion d'un litige portant sur la fixation de rentes (cf. <ref-ruling>-266 consid. 3 et les références, 110 V 97 consid. 4a et la référence), lorsqu'un assuré affirme avoir exercé une activité lucrative soumise à cotisations paritaires durant une période non prise en compte dans le calcul de la rente (cf. <ref-ruling> ss consid. 2a), ou qu'il allègue, de nombreuses années après les faits invoqués, que l'affiliation à l'assurance facultative remonte à une époque antérieure à la date prise en compte pour fixer le montant de la rente (arrêt non publié B. du 14 octobre 1997, H 143/96). C'est également le cas, lorsque - comme en l'espèce - un étranger demande le remboursement de cotisations, notamment en application de l'art. 1 OR-AVS, en alléguant avoir travaillé en Suisse et cotisé à l'AVS.
Par ailleurs, la règle de preuve posée à l'art. 141 al. 3 RAVS n'exclut pas l'application du principe inquisitoire.
La preuve absolue doit être fournie selon les règles usuelles sur l'administration des preuves et le fardeau de la preuve qui prévalent dans l'assurance sociale, l'obligation de collaborer de la partie intéressée étant toutefois plus étendue dans ce cas (<ref-ruling>-266 consid. 3d).
b) En l'espèce, le recourant se contente d'alléguer qu'il a travaillé au service de huit établissements publics différents durant les années 1960. Ces allégations ne sont toutefois manifestement pas de nature à établir l'inexactitude des inscriptions consignées dans les extraits du compte individuel du prénommé (cf. art. 141 al. 3 RAVS; <ref-ruling>-266 consid. 3 et les références, 110 V 97 consid. 4a et la référence).
A cet égard, on ne saurait faire grief à la commission de recours d'avoir violé l'art. 12 PA, par le fait de ne pas avoir poursuivi ses investigations. En pareilles circonstances, il eût incombé au recourant d'établir l'inexactitude des inscriptions portées sur son compte individuel, preuves à l'appui (contrats de travail, fiches de salaires, témoins, etc.). La seule pièce qu'il produit avec son recours est un jugement du Tribunal du district de Zurich du 31 mars 1967, dont il ressort qu'il se trouvait en Suisse ce jour-là; toutefois, ce document ne prouve nullement qu'il occupait un emploi à cette époque.
3.- A juste titre, l'intimée observe que la nationalité effective du recourant, à l'époque où il a cotisé à l'AVS, n'a pas été abordée si bien qu'elle est incertaine.
Si le recourant avait été français à l'époque du paiement des cotisations, il aurait maintenant droit à leur remboursement en vertu de l'art. 5 let. d de la Convention entre la Suisse et la France du 9 juillet 1949, dans la mesure où il ne pourrait prétendre une rente à teneur de l'art. 5 let. b de ladite convention.
En revanche, si le recourant n'avait eu que la nationalité algérienne à l'époque où il avait cotisé à l'AVS, il ne saurait obtenir aujourd'hui le remboursement de ses cotisations, dès lors qu'elles n'ont pas été payées durant une année entière au moins (art. 1 OR-AVS).
La cause sera donc renvoyée à l'intimée afin qu'elle détermine la nationalité du recourant à l'époque où il avait cotisé à l'AVS, puis qu'elle rende une nouvelle décision sur le remboursement des cotisations.
4.- La procédure n'est pas gratuite, s'agissant d'un litige qui ne porte pas sur l'octroi ou le refus de prestations d'assurance (art. 134 OJ a contrario). L'intimée, qui succombe, supportera les frais de justice (art. 156 al. 1 OJ).

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est admis en ce sens que le jugement de la
Commission fédérale de recours en matière d'AVS/AI
pour les personnes résidant à l'étranger du 2 février
2000 ainsi que la décision de la Caisse suisse de compensation
du 8 juillet 1999 sont annulés, la cause
étant renvoyée à ladite caisse pour instruction complémentaire
au sens des considérants et nouvelle décision.
II. Les frais de justice, d'un montant total de 500 fr., sont mis à la charge de l'intimée.
III. Le présent arrêt sera communiqué aux parties, à la
Commission fédérale de recours en matière d'assurance- vieillesse, invalidité et survivants pour les personnes
résidant à l'étranger et à l'Office fédéral des
assurances sociales.
Lucerne, le 6 mars 2001
Au nom du
Tribunal fédéral des assurances
Le Président de la IIe Chambre :
Le Greffier :