A.- D._, travaillait en Suisse depuis 1987 comme ouvrier horticole. Souffrant de douleurs dorsales, il adressa à la Caisse cantonale genevoise de compensation une demande de prestations de l'assurance-invalidité le 18 avril 1991.
Dans un rapport médical du 23 avril 1991, le docteur A._, son médecin traitant, émit le diagnostic de syndrome vertébral lombaire et dorso-lombaire aigu en décompensation spectaculaire sur maladie de Scheuermann avec troubles statiques lombaires et dorso-lombaires très importants et canal relativement étroit. Ce médecin conclut à une incapacité de travail totale dans l'activité exercée jusque-là par l'assuré; il préconisait l'exercice d'une activité légère n'exigeant pas qu'il se penchât en avant, ni qu'il levât ou portât des charges ou qu'il demeurât debout ou assis immobile.
Dans le cadre de l'instruction de cette demande, l'assuré effectua un stage d'observation professionnelle au COPAI à Genève, du 21 octobre au 15 novembre 1991. A l'issue de son séjour, les responsables de la formation estimèrent que D._, dont le rendement n'excédait pas 30 % dans les activités proposées, ne disposait plus d'aucune capacité de travail exploitable dans le circuit économique normal (rapport COPAI du 3 décembre 1991).
Dès le 1er mars 1992, D._ fut mis au bénéfice d'une rente entière d'invalidité en relation avec une incapacité de gain de 7 %, par décision de la Caisse cantonale genevoise de compensation, du 2 mars 1992. Cette décision demeura inattaquée.
L'assuré retourna s'établir au Portugal le 15 février 1993.
Procédant à la révision du droit à la rente, l'Office AI pour les assurés résidant à l'étranger (ci-après: l'office) a, par décision du 16 octobre 1997, supprimé la rente avec effet au 1er décembre 1997 au motif que l'assuré était à nouveau en mesure d'exercer une activité lucrative adaptée à son état de santé, lui permettant d'obtenir plus de la moitié du gain réalisé avant la survenance de l'invalidité.
Par jugement du 14 juillet 1998, la Commission fédérale de recours en matière d'assurance-vieillesse, survivants et invalidité pour les personnes résidant à l'étranger (ci-après: la commission) a admis le recours interjeté par D._ et renvoyé la cause à l'office afin qu'il en complète l'instruction sur le plan médical.
D._ a été soumis, du 26 au 28 avril 1999, à des examens médicaux pluridisciplinaires réalisés par le Service d'expertise médicale de l'assurance-invalidité (Servizio Accertamento Medico; ci-après: SAM) à Bellinzone.
Les spécialistes consultés ont conclu à une incapacité de travail totale dans la profession d'ouvrier agricole ainsi que dans toute activité physique lourde. Ils ont estimé, en revanche, la capacité médico-théorique de travail de l'assuré à 70 % dans une activité physique manuelle moyenne à légère, simple et répétitive, ne requérant ni qualités d'organisation, ni rapidité d'exécution et pouvant être déployée dans un environnement ergonomiquement adapté, permettant d'alterner les positions assise et debout avec des périodes de déambulation, telles les activités d'ouvrier non qualifié, de portier ou de gardien (rapport du SAM, du 21 mai 1999).
Par décision du 7 septembre 1999, l'office a confirmé la suppression de la rente avec effet au 1er décembre 1997.
B.- Par jugement du 29 novembre 2000, la commission a rejeté le recours formé contre cette décision par l'assuré.
C.- Ce dernier interjette recours de droit administratif contre ce jugement. Il conclut, avec suite de dépens, à son annulation et au maintien de la rente entière d'invalidité.
L'office conclut au rejet du recours, cependant que l'Office fédéral des assurances sociales a renoncé à déposer des déterminations.

Considérant en droit :
1.- a) Selon l'art. 41 LAI, si l'invalidité d'un bénéficiaire de rente se modifie de manière à influencer le droit à la rente, celle-ci est, pour l'avenir, augmentée, réduite ou supprimée. Tout changement important des circonstances, propre à influencer le degré d'invalidité, donc le droit à la rente, peut donner lieu à une révision de celle-ci. Le point de savoir si un tel changement s'est produit doit être tranché en comparant les faits tels qu'ils se présentaient au moment de la décision initiale de rente et les circonstances régnant à l'époque de la décision litigieuse (<ref-ruling> consid. 2 et la référence; voir également <ref-ruling> consid. 2b et 390 consid. 1b).
b) En l'espèce, les premiers juges ont admis, en se référant au rapport du COPAI du 3 décembre 1991 et au rapport établi le 28 novembre 1991 par le docteur B._, médecin-conseil de ce centre, qu'au moment de l'octroi de la rente, des troubles d'ordre psychologique avaient, en plus des problèmes dorsaux, été déterminants dans les conclusions du COPAI, dont les responsables relevaient en particulier l'incapacité du recourant d'envisager un reclassement et la reprise d'une activité professionnelle.
Ils ont par ailleurs retenu du rapport du SAM du 21 mai 1999 que le recourant n'était plus en butte à de telles difficultés, l'état de santé sur le plan orthopédique demeurant, pour le surplus, inchangé. Ils en ont déduit l'existence d'une amélioration de sa capacité de travail lui permettant désormais de réaliser plus de la moitié du gain qu'il pourrait obtenir sans atteinte à la santé.
Pour sa part, le recourant conteste que des problèmes psychiques ou psychologiques aient joué un rôle quelconque dans l'évaluation de son invalidité au moment de l'octroi de la rente et qu'une amélioration de son état de santé, respectivement de sa capacité de gain, soit survenue depuis lors.
c) Que le recourant ait été confronté à des difficultés d'ordre psychologique - dans une acception large du terme - au moment de la décision initiale de rente n'est pas contestable. En revanche, le seul fait que l'absence de pensée positive et le sentiment d'angoisse exprimé par le recourant - les autres circonstances demeurant par ailleurs inchangées - n'apparaissent plus, selon les médecins du SAM, que comme une légère anxiété et une affectivité légèrement déprimée ne saurait être qualifié de changement important au sens de la jurisprudence rappelée ci-dessus (supra, consid. 1a). Dans la mesure où, pour ces médecins, le recourant n'aurait, en réalité, jamais souffert de véritables troubles d'ordre psychique ou psychiatrique (rapport du SAM, p. 7), on ne saurait retenir que leurs conclusions, du reste très proches de celles du docteur A._, révèlent une modification objective importante des circonstances; elles relèvent, plus vraisemblablement, d'une appréciation différente d'une situation demeurée inchangée qui, selon la jurisprudence, ne constitue pas un motif de révision (cf. RCC 1987 36).
2.- a) Le principe selon lequel l'administration peut en tout temps revenir d'office sur une décision formellement passée en force qui n'a pas donné lieu à un jugement sur le fond, lorsque celle-ci est certainement erronée et que sa rectification revêt une importance appréciable, l'emporte sur la procédure de révision au sens de l'art. 41 LAI. Ainsi, l'administration peut aussi modifier une décision de rente lorsque les conditions de la révision selon l'art. 41 LAI ne sont pas remplies. Si le juge est le premier à constater que la décision initiale était certainement erronée, il peut confirmer, en invoquant ce motif, la décision de révision prise par l'administration en vertu de l'art. 41 LAI (<ref-ruling> consid. 2 et les arrêts cités; cf. aussi <ref-ruling> consid. 2c et 390 consid. 1b).
b) En l'espèce, le degré d'invalidité du recourant a été arrêté à 70 % par le Président de la Commission cantonale genevoise de l'assurance-invalidité (décision du 10 janvier 1992), ce qui justifiait l'octroi d'une rente entière (décision de la Caisse cantonale genevoise de compensation, du 2 mars 1992).
Si, comme le relève l'office intimé, le recourant n'a fait l'objet d'aucun examen approfondi par un psychiatre lors de l'octroi de la rente, cela ne suffit pas à faire apparaître la décision du 2 mars 1992 comme certainement erronée. Une telle mesure d'instruction - à laquelle l'office n'a, du reste, lui-même jamais procédé avant de rendre sa décision de révision du 16 octobre 1997 - apparaît certes judicieuse a posteriori. L'autorité compétente disposait cependant d'autres éléments, tels les rapports du docteur B._ et du docteur A._, de sorte que l'instruction du cas sur le plan médical, certes sommaire, n'en apparaît pas pour autant si lacunaire que l'on doive admettre rétroactivement que, sans expertise psychiatrique, l'administration n'était pas en mesure de se prononcer sur le droit du recourant à une rente. Enfin, même s'il fallait admettre, au vu du rapport du SAM, que les médecins qui se sont prononcés sur la capacité de travail du recourant dans le cadre de l'instruction de la demande de rente, dont en particulier le docteur B._, ont pu commettre une erreur d'appréciation, la décision ne pourrait pas être reconsidérée pour ce seul motif (cf. RAMA K 990 251 consid. 2b).
Le Président de la commission cantonale genevoise de l'assurance-invalidité disposait par ailleurs du rapport rédigé à l'issue d'un stage d'observation professionnelle de trois semaines au COPAI. A cette occasion, les responsables d'atelier ont pu constater que le rendement du recourant dans les diverses activités qui lui étaient proposées n'excédait pas 30%; ils ont ainsi estimé que le recourant n'avait plus de capacité de travail exploitable dans le circuit économique normal. Les informations contenues dans le rapport du COPAI du 3 décembre 1991 complétaient ainsi utilement les données médicales en montrant sur la base d'activités exercées en ateliers que le recourant n'était à même de mettre en valeur une capacité de travail et de gain sur le marché du travail que de manière très limitée (voir au surplus, à propos du rôle des COPAI pour l'évaluation de l'invalidité: L'instruction des possibilités de gain des personnes prétendant une rente, compte-rendu d'une séance du 10 novembre 1989 consacrée aux problèmes de l'expertise médicale et professionnelle, RCC 1990 p. 59 ss; Karl Abegg, Coup d'oeil sur l'activité des centres d'observation profesionnelle de l'AI [COPAI], RCC 1985, p. 246 ss).
Il résulte de ce qui précède que l'instruction de la demande de prestations à laquelle a procédé la Caisse cantonale genevoise de compensation était suffisante sur les plans médical et socioprofessionnel.
c) En ce qui concerne les données économiques, il ressort des pièces du dossier que le recourant réalisait, avant d'être atteint dans sa santé, un salaire mensuel de 3087 fr. 40. En revanche, ni le prononcé présidentiel du 10 janvier 1992 ni la décision du 2 mars 1992, qui ne sont pas motivés, ni le dossier de la cause ne permettent de déterminer avec certitude si, et sur quelles bases, le revenu que le recourant aurait pu réaliser comme invalide a été évalué et comparé à son revenu sans invalidité. A cet égard, que la décision du 2 mars 1992 retienne un taux d'invalidité de 70 %, suggère plutôt que le Président de la Commission cantonale de l'assurance-invalidité, sans chercher à établir plus précisément le gain que le recourant aurait été en mesure de réaliser dans une activité adaptée à son handicap, se soit principalement fondé sur le rendement de 30 % atteint par le recourant lors de son séjour au COPAI pour fixer le degré de son invalidité.
Une telle manière de procéder n'apparaît pas conforme à l'art. 28 al. 2 LAI, ce qui pourrait, le cas échéant, justifier une reconsidération de la décision initiale de rente. Toutefois, en l'absence de données économiques plus précises sur les gains que le recourant aurait pu réaliser dans une activité raisonnablement exigible, il n'est pas possible, en l'état du dossier, de déterminer avec précision quel était le degré de son invalidité au moment de la décision de rente initiale et moins encore de constater avec certitude que la décision du 2 mars 1992 serait entachée d'une erreur sur ce point. Par ailleurs, comme ce motif de reconsidération n'a été évoqué ni par l'office ni par les premiers juges et que, selon la jurisprudence l'administration ne peut être contrainte de procéder à une reconsidération ni par l'administré, ni par le juge, qui ne peut pas non plus lui imposer les modalités d'un tel réexamen (<ref-ruling> consid. 3a et 3b), la cour de céans ne peut que constater que les conditions d'une révision ne sont pas remplies en l'espèce (supra consid. 1).
3.- a) Il résulte de ce qui précède que c'est à tort que l'office a, par voie de révision, nié tout droit du recourant à une rente d'invalidité dès le 1er décembre 1997 et que les premiers juges ont rejeté le recours interjeté contre cette décision.
b) La procédure, qui a pour objet des prestations d'assurance est gratuite (art. 134 OJ). Le recourant, qui obtient gain de cause, peut, par ailleurs prétendre une indemnité de dépens (art. 159 al. 1 OJ), si bien que sa requête tendant à l'octroi de l'assistance judiciaire est sans objet.

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est admis; la décision rendue le 7 septembre
1999 par l'Office AI pour les assurés résidant
à l'étranger ainsi que le jugement de la Commission
fédérale de recours en matière d'assurance-vieillesse,
survivants et invalidité pour les personnes résidant à
l'étranger, du 29 novembre 2000, sont annulés.
II. Il n'est pas perçu de frais de justice.
III. L'Office AI pour les assurés résidant à l'étranger versera à D._ la somme de 2500 fr. à titre de dépens (y compris la taxe à la valeur ajoutée).
IV. La Commission fédérale de recours en matière d'assurance-vieillesse, survivants et invalidité pour les personnes résidant à l'étranger statuera sur les
dépens de première instance, au regard de l'issue du
procès de dernière instance.
V. Le présent arrêt sera communiqué aux parties, à la
Commission fédérale de recours en matière d'assurance- vieillesse, survivants et invalidité pour les personne
résidant à l'étranger, à la Caisse fédérale de compensation
ainsi qu'à l'Office fédéral des assurances
sociales.
Lucerne, le 30 octobre 2001
Au nom du
Tribunal fédéral des assurances
Le Président de la IIe Chambre :
Le Greffier :