A.- G._, de nationalité espagnole, a travaillé en Suisse comme ouvrier de chantier jusqu'au 24 avril 1992, date à laquelle il a subi un accident de travail. Depuis lors, il souffre de douleurs dans les épaules et ne travaille plus. Le 2 mars 1993, il a déposé une demande de rente à l'Office de l'assurance-invalidité pour le canton de Berne (ci-après : office AI du canton de Berne). Dans le même temps, il a également demandé à la Caisse nationale suisse d'assurance en cas d'accident (CNA) de le mettre au bénéfice d'une rente.
Par décision du 4 mars 1996, l'office AI du canton de Berne a retenu que G._ présentait un taux d'invalidité de 28 % et rejeté sa demande. De même, la CNA a refusé, par décision sur opposition du 9 mai 1995, d'allouer la rente qui lui avait été demandée. Le recours interjeté contre cette décision sur opposition a été rejeté par le Tribunal administratif du canton de Berne, par jugement du 25 avril 1996.
B.- Le 26 avril 1999, G._, qui s'est entre-temps établi en Espagne, a présenté une nouvelle demande de rente à l'assurance-invalidité. Celle-ci a été rejetée par décision du 29 juin 1999 de l'Office AI pour les assurés résidant à l'étranger. Ce dernier a considéré que le requérant n'était plus assuré en Suisse depuis le 1er mars 1994 et qu'aucune invalidité ouvrant droit à une rente n'était survenue jusqu'à cette date, comme l'avait constaté l'office AI du canton de Berne dans sa décision du 4 mars 1996.
C.- Par jugement du 8 septembre 2000, la Commission de recours en matière d'assurance-vieillesse, invalidité et survivants pour les personnes résidant à l'étranger (ci-après : la commission), a rejeté le recours formé contre cette décision par G._.
D.- Ce dernier interjette un recours de droit administratif contre le jugement de la commission. Il en demande l'annulation, en concluant à l'allocation d'une rente d'invalidité.
L'intimé conclut au rejet du recours, alors que l'Office fédéral des assurances sociales ne s'est pas déterminé.

Considérant en droit :
1.- D'après l'art. 9 al. 1 de la Convention de sécurité sociale entre la Confédération suisse et l'Espagne du 13 octobre 1969 (ci-après : la convention de sécurité sociale hispano-suisse), les ressortissants espagnols ont droit aux rentes ordinaires et aux allocations pour impotents de l'assurance-invalidité suisse aux mêmes conditions que les ressortissants suisses (sous réserve des exceptions prévues aux alinéa 2 et 3, sans rapport avec le cas d'espèce).
A cet égard, l'<ref-law> prévoit que les ressortissants suisses, les étrangers et les apatrides ont droit aux prestations, conformément aux dispositions légales, s'ils sont assurés lors de la survenance de l'invalidité (condition d'assurance).
2.- a) Les personnes physiques domiciliées en Suisse sont obligatoirement assurées contre le risque d'invalidité (<ref-law>, en relation avec l'<ref-law>).
Par domicile, il faut entendre le lieu où la personne concernée réside avec l'intention de s'y établir (<ref-law>; <ref-ruling> consid. 2a). A cet égard, on se fondera sur les circonstances objectives, reconnaissables pour les tiers, qui permettent de déduire une telle intention (<ref-ruling> consid. 2a).
Par ailleurs, l'art. 7a al. 1 de la convention de sécurité sociale hispano-suisse prévoit que le ressortissant espagnol contraint d'abandonner son activité lucrative en Suisse à la suite d'une maladie ou d'un accident, mais dont l'état d'invalidité est constaté dans ce pays, est considéré comme étant assuré au sens de la législation suisse pour une durée d'une année à compter de la date de l'interruption de travail suivie d'invalidité et doit acquitter les cotisations à l'assurance-vieillesse, survivants et invalidité suisse comme s'il avait son domicile en Suisse.
b) Le recourant n'a plus versé de cotisations aux assurances sociales suisses depuis le 1er mars 1994 (attestations de la Caisse suisse de compensation des 31 mai et 19 septembre 1999). On ne peut toutefois en déduire qu'il n'est plus domicilié en Suisse depuis cette date. En revanche, il a déclaré au docteur H._, mandaté à l'époque comme expert par la CNA et l'office AI du canton de Berne, qu'il résidait auprès de son épouse et de ses deux enfants, en Espagne, depuis décembre 1995 (rapport d'expertise du 5 février 1996). De plus, en février et en mai 1996, son mandataire lui écrivait directement en Espagne (lettres du 20 février et du 13 mai 1996), où une imagerie par résonance magnétique a du reste été effectuée le 2 mars 1996.
Aucune pièce au dossier n'indique que le recourant serait retourné en Suisse par la suite. Dès lors, il faut retenir qu'à partir du 1er janvier 1996 au plus tard, il n'avait plus l'intention de s'établir en Suisse, où il ne résidait plus, mais qu'il était domicilié en Espagne avec sa famille.
Par ailleurs, le recourant, qui avait cessé de travailler depuis plus d'une année lors de son retour en Espagne, dans le courant du mois de décembre 1995, ne se trouve pas dans l'une des situations visées par l'art. 7a de la convention de sécurité sociale hispano-suisse. Ainsi, il faut admettre qu'il n'est plus assuré en Suisse depuis le 1er janvier 1996.
3.- En vertu de l'<ref-law>, l'invalidité est réputée survenue dès qu'elle est, par sa nature et sa gravité, propre à ouvrir droit aux prestations entrant en considération. Or, par décision du 4 mars 1996, entrée en force, l'Office AI du canton de Berne a considéré que le recourant présentait une incapacité de travail inférieure à 40 %, de sorte que l'allocation d'une rente devait lui être refusée.
Un assureur social n'est tenu de procéder à la révision d'une décision entrée en force formelle que lorsque sont découverts des faits nouveaux ou de nouveaux moyens de preuve, susceptibles de conduire à une appréciation juridique différente (<ref-ruling> consid. 4b et les références citées). Tel n'est pas le cas en l'espèce, le recourant se limitant à analyser une nouvelle fois les rapports médicaux figurant dans les dossiers des assureurs sociaux. L'intimé pouvait donc à bon droit, en se fondant sur la décision de l'office AI du canton de Berne, nier la survenance d'une invalidité lorsque le recourant était encore assuré en Suisse.
Ce dernier fait encore valoir une dégradation postérieure de son état de santé; toutefois, une telle péjoration de sa situation après son départ de Suisse ne saurait lui ouvrir droit à une rente, la condition d'assurance n'étant pas remplie. Le recours, mal fondé, doit être rejeté.

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est rejeté.
II. Il n'est pas perçu de frais de justice.
III. Le présent arrêt sera communiqué aux parties, à la Commission fédérale de recours en matière d'assurance- vieillesse, survivants et invalidité pour les assurés
résidant à l'étranger, et à l'Office fédéral des assurances
sociales.
Lucerne, le 13 mars 2001
Au nom du
Tribunal fédéral des assurances
Le Président de la IIIe Chambre :
Le Greffier :