A.- R._ a travaillé comme cuisinier jusqu'en 1978. Depuis lors, il a exercé, à titre principal ou accessoire, diverses activités telles qu'employé de remontées mécaniques, agent de sécurité, responsable de salon de jeu ou surveillant de nuit dans un centre d'accueil pour requérants d'asile. Après une période de chômage, il a repris, depuis le mois de février 1998, l'activité de chauffeur de taxi.
Souffrant du dos, R._ a déposé une demande de prestations de l'assurance-invalidité tendant à la mise en oeuvre d'un reclassement professionnel, le 13 juillet 1989.
Par décision du 1er juin 1990, la Caisse cantonale valaisanne de compensation a refusé toute prestation à R._ au motif que ce dernier disposait d'une capacité totale de travail et de gain dans toute activité légère, sans port de charges lourdes, telle que celle exercée antérieurement comme surveillant d'un salon de jeux. Les recours interjetés successivement par R._ ensuite de cette décision ont été rejetés par le Tribunal cantonal des assurances du canton du Valais (jugement du 11 septembre 1990) et la cour de céans (arrêt du 28 juin 1991).
Au mois d'août 1996, l'assuré a déposé une nouvelle demande de prestations de l'assurance-invalidité, sur laquelle l'Office cantonal AI du Valais a refusé d'entrer en matière, par décision du 8 novembre 1996. Cette dernière est entrée en force ensuite du retrait du recours formé par R._ auprès du Tribunal cantonal des assurances du canton du Valais.
Le 18 août 1998, invoquant des douleurs au niveau des épaules, R._ a déposé une nouvelle demande de prestations.
A la demande de l'Office AI, l'assuré a été adressé au Centre d'observation médicale de l'AI (COMAI) où il a été examiné par les docteurs A._, B._ et C._; il a par ailleurs fait l'objet d'une consultation spécialisée en psychiatrie (doctoresse D._) et d'un examen psychotechnique par les soins de l'Office AI.
Par décision du 28 août 2000, motivée par les conclusions des spécialistes précités et les résultats du test psychotechnique, l'Office cantonal AI du Valais a nié le droit de l'assuré à toute prestation attendu que l'on pouvait encore exiger de lui l'exercice à 100 % des emplois légers qu'il avait exercés dans le passé, soit surveillant de salon de jeu, concierge ou agent de sécurité.
B.- Par jugement du 20 août 2001, le Tribunal cantonal des assurances du canton du Valais a rejeté le recours formé par R._ contre cette décision.
C.- Ce dernier interjette recours de droit administratif contre ce jugement en concluant à son annulation.
L'office a conclu au rejet du recours cependant que l'Office fédéral des assurances sociales a renoncé à se déterminer.
D.- Par courrier du 5 février 2002, R._ a encore produit un rapport d'examen final émanant du médecin d'arrondissement de la Caisse nationale suisse d'assurance en cas d'accidents (CNA), du 15 janvier 2002.

Considérant en droit :
1.- a) Selon l'art. 108 al. 2 OJ, le recours de droit administratif doit indiquer notamment les conclusions et les motifs du recourant. Cette exigence a pour but de fixer le juge sur la nature et l'objet du litige. La jurisprudence admet que les conclusions et les motifs résultent implicitement du mémoire de recours; il faut cependant pouvoir déduire de ce dernier, considéré dans son ensemble, à tout le moins ce que le recourant demande d'une part, et quels sont les faits sur lesquels il se fonde d'autre part.
Il n'est pas nécessaire que la motivation soit pertinente, mais elle doit se rapporter au litige en question. Le simple renvoi à des écritures antérieures ou à l'acte attaqué ne suffit pas. S'il manque soit des conclusions soit des motifs, même implicites, le recours de droit administratif est irrecevable d'entrée de cause, sans que le recourant ait la faculté de remédier à cette irrégularité (<ref-ruling> consid. 1a et les références).
b) Dans son mémoire de recours, R._ conclut à l'annulation du jugement du 20 août 2001. Il conteste, d'une part, le contenu des pièces médicales sur lesquelles les premiers juges ont fondé leur appréciation, requérant, sur ce point, la mise en oeuvre d'une expertise. Il soutient, d'autre part, que sa capacité de travail s'est détériorée depuis l'époque de sa première demande de prestations de l'assurance-invalidité. On peut, par ailleurs, déduire de cette écriture qu'il prétend implicitement des prestations de l'assurance-invalidité, sous forme de rente ou de mesures d'ordre professionnel. Le recours répond dès lors aux réquisits de l'art. 108 al. 2 OJ.
2.- Le jugement entrepris expose correctement les règles légales et les principes jurisprudentiels régissant la notion d'invalidité, son évaluation et le degré de cette dernière ouvrant le droit à une rente (<ref-law>), ainsi que les modalités de la révision d'une décision de prestations, notamment en cas de nouvelle demande (<ref-law>; <ref-law>). Il suffit d'y renvoyer sur ces différents points.
3.- En l'espèce, l'Office est entré en matière sur la nouvelle demande de prestations déposée par le recourant le 18 août 1998. Conformément à la jurisprudence (<ref-ruling> consid. 3a, 109 V 114 consid. 2a et b), il convient, en conséquence, d'examiner, d'une part, si l'invalidité du recourant s'est aggravée entre le 1er juin 1990, date de la décision initiale de refus de prestations, et le 28 août 2000, date à laquelle l'OAI a rejeté la nouvelle demande et, d'autre part, si cette aggravation a eu pour effet de diminuer sa capacité de gain dans une mesure suffisante pour lui ouvrir le droit à des prestations d'invalidité.
Il s'ensuit que l'argumentation du recourant relative à une chute survenue le 24 février 2001 est sans pertinence pour la solution du présent litige, le juge des assurances sociales appréciant la légalité des décisions attaquées, en règle générale, d'après l'état de fait existant au moment où la décision litigieuse a été rendue (<ref-ruling> consid. 1b et les arrêts cités). Se rapportant à ce même événement accidentel, le rapport médical du médecin d'arrondissement de la CNA, au demeurant produit après l'échéance du délai de recours et sans qu'un second échange d'écritures ait été ordonné (<ref-ruling> consid. 4a et 4b), doit être écarté.
4.- a) Il ressort du dossier constitué lors de l'instruction de la demande initiale de prestations que l'assuré était alors atteint, sur le plan physique, d'ostéoporose de l'homme jeune, d'une possible calciurie idiopathique, de rachialgies sur ostéoporose et de fibrosite dans le cadre d'un état anxio-dépressif (rapport des docteurs E._ et F._, de l'Hôpital X._, du 25 avril 1989).
Dans un rapport complémentaire, du 31 juillet 1989, le docteur E._ précisait encore que l'intéressé serait apte à travailler à 100 % dans une activité légère à l'issue d'une période de 8 à 12 mois permettant au traitement mis en place de déployer ses effets. Dans un rapport établi le 23 janvier 1990, le docteur G._ soulignait, par ailleurs, la survenue, quelque dix-huit mois auparavant, d'une périarthrite scapulo-humérale entraînant des difficultés à élever le bras droit au-delà de 90°. Une activité de surveillant, à 100 % était exigible selon ce médecin. Sur le plan psychique, la doctoresse H._ évoquait une personnalité aux traits caractériels (traits paranoïaques non exclus) avec notion antérieure d'un alcoolisme actuellement en rémission, sans influence sur la capacité de travail de l'assuré (rapport du 19 avril 1990).
Sur la base de ces différents avis médicaux et, en particulier de celui du docteur H._, qu'elle a jugé en tous points convaincants, la cour de céans a, dans son arrêt du 28 juin 1991, retenu que le recourant était alors capable d'exercer une activité légère à plein temps et sans avoir à se soumettre au préalable à des mesures de réadaptation.
Il n'y a pas lieu, dans le contexte de la présente procédure d'examiner à nouveau les critiques émises par le recourant à propos de cette évaluation psychiatrique, qui ont déjà été réfutées par la cour de céans.
b) En comparaison de cette situation initiale, il ressort du rapport établi à la demande de l'assurance-invalidité par les docteurs A._, B._ et C._ le 14 octobre 1999, que le recourant souffre actuellement d'un syndrome douloureux somatoforme persistant sous forme de lombalgies, de douleurs des épaules et des membres inférieurs, d'une tendinopathie de la coiffe des rotateurs avec rupture du sus-épineux bilatérale et conflit sous-acromial droit, d'un trouble anxieux et dépressif mixte, d'un trouble de personnalité paranoïaque, d'une ostéoporose traitée depuis 1989 ainsi que de troubles statiques et dégénératifs du rachis.
On peut ainsi admettre, sur la base de ce rapport dont les constatations concordent, pour l'essentiel, avec celles des autres médecins qui se sont prononcés sur l'état de santé du recourant (rapport du docteur I._, du 14 septembre 1998; dito des docteurs J._ et E._, du 22 mai 1997; dito, du 11 novembre 1998, du docteur K._; rapport psychiatrique du docteur L._, du 22 août 1997), que ce dernier s'est, dans une certaine mesure, dégradé tant sur les plans physique (rupture désormais bilatérale des coiffes des rotateurs) que psychique (légère augmentation de la symptomatologie anxieuse). Il reste à examiner l'influence de cette aggravation de l'état de santé du recourant sur sa capacité de travail.
5.- a) Selon les docteurs A._, B._ et C._, compte tenu de l'ensemble de la pathologie dont souffre l'assuré, l'atteinte de la coiffe des rotateurs peut affecter partiellement sa capacité de travail en tant que chauffeur de taxi. En revanche, les autres diagnostics influencent peu la capacité de travail qui est globalement de 70 % comme chauffeur de taxi et totale dans un travail léger. Cette conclusion procède d'une analyse multidisciplinaire bien documentée et complète de l'état de santé du recourant, y compris sur le plan psychiatrique (consilium du docteur D._). Le rapport de ces médecins expose en détail l'anamnèse et les plaintes du recourant et est motivé de manière convaincante. Il remplit ainsi toutes les conditions posées par la jurisprudence pour lui reconnaître pleine valeur probante (<ref-ruling> consid. 3a, 122 V 160 consid. 1c et les références).
b) Le recourant reproche certes à ces médecins de n'avoir pas procédé à une nouvelle densitométrie osseuse et de s'être fondés uniquement sur celle réalisée en 1997. Il n'apporte toutefois sur ce point aucun élément médical concret - tel le résultat d'un examen semblable qu'il subit selon ses propres déclarations chaque année - permettant de rendre vraisemblable une aggravation si importante de son ostéoporose qu'elle ferait apparaître caduques les conclusions des médecins du COMAI. Pour le surplus, les griefs élevés par le recourant à l'adresse de la doctoresse D._ sont dénués de tout fondement en ce qui concerne les compétences de cette dernière à laquelle on ne saurait, par ailleurs, non plus reprocher d'avoir tenu compte, dans l'examen du cas, du rapport précité de la doctoresse H._, ce qui démontre au contraire que ce médecin a analysé de manière détaillée le dossier médical dont il disposait.
La cour de céans n'a, de la sorte, aucun motif de s'écarter des conclusions des experts précités. On peut ainsi admettre que la capacité de travail du recourant, qui est, tout au moins de 50 % dans l'activité de chauffeur de taxi, demeure pleine et entière dans toute activité légère.
c) Il résulte de ce qui précède que malgré l'aggravation de son état de santé mise en évidence par les rapports médicaux précités, la capacité de travail du recourant dans l'activité légère que l'on peut attendre de lui ne s'est pas modifiée. On relévera, à cet égard, qu'une éventuelle diminution de sa capacité à exercer l'activitié de chauffeur de taxi demeure sans incidence sur la solution du présent litige. Compte tenu de l'ensemble des circonstances du cas d'espèce, on ne saurait en effet retenir que l'intéressé, sans invalidité, se contenterait de la rémunération excessivement modeste - de l'ordre de 15 francs de l'heure - que lui assure cette activité qu'il avait déjà exercée, avant de l'abandonner, durant les années 1991-1992. On peut dès lors, comme l'admet la jurisprudence, renoncer à se référer à ce gain effectif dans l'évaluation de son invalidité (arrêts non publiés M. du 10 décembre 2001 [I 320/01], W. du 23 juillet 1999 [I 200/98]; cf. en relation avec l'évaluation du revenu d'invalide, <ref-ruling>; <ref-ruling> consid. 4c; RCC 1992 p. 96 consid. 4a).
d) Il convient toutefois de relever à l'attention du recourant que, dans la mesure où selon les médecins qui se sont prononcés sur son cas les troubles de la personnalité dont il souffre limitent ses possibilités de trouver un nouvel emploi, il peut prétendre bénéficier d'une aide au placement au sens de l'<ref-law>.

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est rejeté.
II. Il n'est pas perçu de frais de justice.
III. Le présent arrêt sera communiqué aux parties, au Tribunal cantonal des assurances du canton du Valais, à la Caisse cantonale valaisanne de compensation ainsi
qu'à l'Office fédéral des assurances sociales.
Lucerne, le 27 juin 2002
Au nom du
Tribunal fédéral des assurances
Le Président de la IIIe Chambre :
p. le Greffier :