A.- a) A._, ressortissant de la République fédérale de Yougoslavie, a oeuvré en qualité de manoeuvre au service de l'entreprise X._. Le 31 août 1987, il a été victime d'un accident, pris en charge par la Caisse nationale suisse d'assurance en cas d'accidents (CNA), à la suite duquel il n'a pas repris son travail.
Le 16 août 1988, A._ a présenté une demande de prestations de l'assurance-invalidité. Dans un prononcé présidentiel du 15 novembre 1989, la Commission de l'assurance-invalidité du canton de Vaud a conclu à une invalidité de 100 % à partir du 1er août 1988. Par décision du 12 février 1990, la Caisse cantonale vaudoise de compensation lui a alloué du 1er août 1988 au 30 septembre 1989 une rente entière d'invalidité, assortie d'une rente complémentaire pour son épouse et de trois rentes pour enfants.
Dans un prononcé présidentiel du 2 mai 1990, la commission de l'assurance-invalidité a constaté que l'assuré continuait d'être invalide à 100 %. Par décision du 31 juillet 1990, la caisse lui a alloué une rente entière d'invalidité dès le 1er octobre 1989, assortie d'une rente complémentaire pour son épouse et de quatre rentes pour enfants.
b) Après révision, la commission de l'assurance-invalidité, dans un prononcé présidentiel du 24 juin 1993, a réduit le taux d'invalidité de A._ à 40 %. Elle se fondait sur le fait que la CNA, par décision du 13 juillet 1992, avait fixé l'incapacité de gain subie par ce dernier à 40 %.
Par décision du 9 juillet 1993, la caisse a alloué à l'assuré un quart de rente à partir du 1er septembre 1993.
Celui-ci a recouru contre cette décision devant le Tribunal des assurances du canton de Vaud. Par jugement du 12 janvier 1995, le président de la juridiction cantonale a rejeté le recours, la décision attaquée étant cependant modifiée d'office dans le sens de la proposition en procédure de la caisse visant à remplacer le quart de rente par une demi-rente, les conditions du cas pénible étant réalisées.
Après révision, l'Office de l'assurance-invalidité pour le canton de Vaud, dans un prononcé du 8 mars 1996, a constaté que A._ continuait d'être invalide à 40 % et que son droit à une demi-rente d'invalidité pour cas pénible demeurait inchangé.
c) Le 28 avril 1998, A._ a présenté une demande de révision de son droit à une rente d'invalidité, datée du 17 avril 1998. Il faisait état d'une aggravation de son état de santé depuis plusieurs mois.
Dans un rapport intermédiaire du 13 janvier 1999, les docteurs B._ et C._, médecin-adjoint et médecin-assistante du Centre psycho-social Z._, ont posé le diagnostic de trouble de l'adaptation avec perturbation mixte des émotions et des conduites (F43. 25) évoluant vers la chronicité et de personnalité de type paranoïaque (F60. 0). Ils indiquaient que la problématique psychiatrique prédominait actuellement et qu'elle justifiait une incapacité de travail de 75 % au moins. Sous la rubrique relative à l'état de santé, ils ont répondu qu'il s'était aggravé.
Le 20 janvier 2000, l'office AI a communiqué à l'assuré son intention de rejeter la demande de révision, au motif que médicalement son état de santé ne s'était pas aggravé de façon à influencer sa capacité de gain, qui était la même que précédemment.
Dans une lettre du 1er février 2000, A._ a contesté la position de l'office AI. Il l'invitait à prendre contact avec les médecins du Centre psycho-social, qui suivent son état de santé depuis 1997.
Par décision du 24 février 2000, l'office AI a rejeté la demande de révision.
B.- Par jugement du 31 juillet 2000, le président du Tribunal des assurances du canton de Vaud a rejeté comme manifestement mal fondé le recours formé par l'assuré contre cette décision.
C.- A._ interjette recours de droit administratif contre ce jugement, en concluant, sous suite de frais et dépens, à l'annulation de celui-ci, la cause étant renvoyée à l'office AI pour qu'il fixe le degré d'invalidité à reconnaître suite à l'apparition de troubles de la santé psychique en novembre 1997. A titre subsidiaire, il demande que l'affaire soit renvoyée au Tribunal des assurances du canton de Vaud pour qu'elle soit jugée par une cour composée de trois juges, son recours cantonal n'étant pas manifestement mal fondé.
L'Office de l'assurance-invalidité pour le canton de Vaud conclut au rejet du recours. L'Office fédéral des assurances sociales (OFAS) a renoncé à se déterminer.

Considérant en droit :
1.- La contestation concerne la révision du droit du recourant à une demi-rente d'invalidité pour cas pénible.
Le litige porte sur le point de savoir s'il présente des troubles d'ordre psychique invalidants, ayant pu modifier de manière sensible son état de santé et diminuer sa capacité résiduelle de gain, qui était jusque-là de 60 %.
a) En vertu de l'<ref-law>, si l'invalidité d'un bénéficiaire de rente se modifie de manière à influencer le droit à la rente, celle-ci est, pour l'avenir, augmentée, réduite ou supprimée. Selon la jurisprudence, la rente peut être révisée non seulement en cas de modification sensible de l'état de santé, mais aussi lorsque celui-ci est resté en soi le même, mais que ses conséquences sur la capacité de gain ont subi un changement important (<ref-ruling> consid. 1a et les arrêts cités; voir également <ref-ruling> consid. 3b, 119 V 478 consid. 1b/aa).
b) L'invalidité au sens de la présente loi est la diminution de la capacité de gain, présumée permanente ou de longue durée, qui résulte d'une atteinte à la santé physique, ou mentale provenant d'une infirmité congénitale, d'une maladie ou d'un accident (art. 4 al. 1LAI).
Parmi les atteintes à la santé psychique, qui peuvent, comme les atteintes physiques, provoquer une invalidité au sens de l'<ref-law>, on doit mentionner - à part les maladies mentales proprement dites - les anomalies psychiques qui équivalent à des maladies. On ne considère pas comme des conséquences d'un état psychique maladif, donc pas comme des affections à prendre en charge par l'assurance-invalidité, les diminutions de la capacité de gain que l'assuré pourrait empêcher en faisant preuve de bonne volonté; la mesure de ce qui est exigible doit être déterminée aussi objectivement que possible. Il faut donc établir si et dans quelle mesure un assuré peut, malgré son infirmité mentale, exercer une activité que le marché du travail lui offre, compte tenu de ses aptitudes. Le point déterminant est ici de savoir quelle activité peut raisonnablement être exigée dans son cas. Pour admettre l'existence d'une incapacité de gain causée par une atteinte à la santé mentale, il n'est donc pas décisif que l'assuré exerce une activité lucrative insuffisante; il faut bien plutôt se demander s'il y a lieu d'admettre que la mise à profit de sa capacité de travail ne peut, pratiquement, plus être raisonnablement exigée de lui, ou qu'elle serait même insupportable pour la société (<ref-ruling>; VSI 2001 p. 224 consid. 2b et les références).
2.- a) Le jugement attaqué se fonde sur le ch. m. 1015 de la circulaire de l'OFAS concernant l'invalidité et l'impotence dans l'assurance-invalidité (CIIAI), selon lequel les troubles psychiques qui sont provoqués principalement par des circonstances extérieures telles que les particularités comportementales de nature socio-culturelle, ethnique ou familiale ainsi que les difficultés psychiques causées en premier lieu par l'émigration (déracinement et acclimatation), n'ont, en eux-mêmes, pas valeur d'invalidité.
Celles-ci peuvent toutefois constituer des facteurs aggravants d'importance variable selon les individus et favoriser l'apparition de troubles psychogènes.
Dans le cas particulier, le premier juge a considéré que les troubles d'ordre psychique du recourant, dans la mesure où ils apparaissent essentiellement liés à des problèmes d'adaptation, ne constituent pas une atteinte invalidante au sens de l'<ref-law>.
b) En ce qui concerne les facteurs psychosociaux ou socioculturels et leur rôle en matière d'invalidité, le Tribunal fédéral des assurances, dans un arrêt B. du 5 octobre 2001 (I 724/99, destiné à la publication), a précisé sa jurisprudence relative aux atteintes à la santé psychique.
Dans chaque cas d'invalidité, il doit y avoir un diagnostic médical pertinent d'après lequel, à dire de spécialiste, la capacité de travail (et de gain) est diminuée de manière importante. Plus les facteurs psychosociaux et socioculturels sont au premier plan dans l'anamnèse, plus il est essentiel que le diagnostic médical précise s'il y a atteinte à la santé psychique qui équivaut à une maladie.
En effet, il ne suffit pas que le tableau clinique indique qu'il y a diminution de la capacité de travail et que celle-ci a sa source dans des facteurs socioculturels, mais encore faut-il qu'il prenne en compte le diagnostic médical sur le plan psychiatrique, par exemple qu'il fasse clairement la différence entre l'humeur dépressive dont se plaint l'assuré et l'état dépressif au sens médical ou qui lui est assimilable. Si le diagnostic médical retient une atteinte à la santé psychique entraînant une diminution de la capacité de travail (et de gain), les facteurs socioculturels sont relégués à l'arrière-plan. Tel n'est pas le cas, en revanche, quand l'expert admet que le diagnostic médical ne suffit pas pour expliquer l'incapacité de travail, imputable essentiellement aux difficultés psychosociales ou socioculturelles de l'assuré (VSI 2000 p. 155 consid. 3).
D'un autre côté, à partir du moment où il est établi qu'il y a atteinte à la santé psychique ayant valeur de maladie, il est décisif de savoir si et dans quelle mesure, en cas de traitement médical adéquat, l'assuré peut, malgré son infirmité mentale, mettre à profit sa capacité de travail et de gain en exerçant, éventuellement dans un cadre de travail protégé (Pra 1997 n° 49 p. 255 consid. 4b), l'activité qui peut raisonnablement être exigée dans son cas (Hans-Jakob Mosimann, Somatoforme Störungen : Gerichte und [psychiatrische] Gutachten, in : SZS 1999 p. 1 ss et 105 ss, en particulier p. 15 ss et les références; Jacques Meine, L'expertise médicale en Suisse : satisfait-elle aux exigences de qualité actuelles?, in : Schweizerische Versicherungszeitschrift [SVZ] 67/1999 p. 37 ss).
c) En l'occurrence, les médecins du centre psycho-social font état dans le rapport du 13 janvier 1999, sous la rubrique consacrée au diagnostic, des circonstances personnelles et familiales qui expliquent, selon eux, l'exacerbation des symptômes psychiatriques. Ils ont posé le diagnostic de trouble de l'adaptation et de personnalité de type paranoïaque.
Il apparaît ainsi que les difficultés psychosociales de l'assuré sont au premier plan. Conformément à la jurisprudence exposée ci-dessus sous let. b, il est dès lors nécessaire de savoir si le diagnostic médical permet à lui seul d'expliquer l'incapacité de travail de 75 % attestée par ces médecins, ou si celle-ci est imputable essentiellement aux facteurs psychosociaux.
En conséquence, il y a lieu d'annuler le jugement attaqué et de renvoyer la cause à la juridiction cantonale pour qu'elle procède à une instruction complémentaire sur ce point, comportant une expertise. Il convient d'établir si et dans quelle mesure la capacité résiduelle de travail (et de gain) du recourant, qui était jusque-là de 60 %, a subi une diminution en raison de la survenance de troubles d'ordre psychique ayant valeur de maladie, ou si la diminution est imputable essentiellement à ses difficultés psychosociales.
3.- Obtenant gain de cause, le recourant a droit à une indemnité de dépens pour l'instance fédérale (art. 159 al. 1 en corrélation avec l'art. 135 OJ).

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est admis en ce sens que le jugement du
Président du Tribunal des assurances du canton de
Vaud, du 31 juillet 2000, est annulé, la cause étant
renvoyée audit tribunal pour complément d'instruction
au sens des considérants et nouveau jugement.
II. Il n'est pas perçu de frais de justice.
III. L'Office de l'assurance-invalidité pour le canton de Vaud versera au recourant la somme de 2500 fr. (y compris la taxe sur la valeur ajoutée) à titre de
dépens pour l'instance fédérale.
IV. Le présent arrêt sera communiqué aux parties, au Tribunal des assurances du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 9 novembre 2001
Au nom du
Tribunal fédéral des assurances
Le Président de la IIIe Chambre :
Le Greffier :