A.- H._ a travaillé de 1988 à 1995 en qualité de ferrailleur au service de l'entreprise L._, à A._. De juin 1998 à mars 1999, il a travaillé à 50 pour cent au service de la commune d'Y. _, dans le cadre d'un programme d'occupation destiné aux chômeurs.
Le 28 août 1998, H._ a présenté une demande de rente de l'assurance-invalidité. Son médecin traitant, le docteur V._, médecin-généraliste, a posé à l'intention de l'Office de l'assurance-invalidité pour le canton de Vaud le diagnostic de troubles psychiatriques et de status après épisode d'angor instable en avril 1998 sur maladie coronarienne monotronculaire. Il a signalé que le patient était suivi par le Centre psycho-social d'Y. _ (ci-après : le CPS). Il a précisé qu'il n'y avait "actuellement" pas d'incapacité de travail pour des raisons somatiques (rapport du 25 septembre 1998).
Le CPS a établi un rapport détaillé le 22 décembre 1998. Il a posé le diagnostic de "troubles de l'humeur persistants sans précision" (F34. 9) et de "troubles de la personnalité type limite" (F60. 31). Il a relevé chez le patient des facteurs de stress psychosociaux sévères provenant d'une dislocation familiale, d'une rupture sentimentale et conjugale (avec un enfant), ainsi que de difficultés socioprofessionnelles importantes à trouver un travail adapté à son état de santé. Les médecins du CPS signalent que l'assuré a été hospitalisé le 28 août 1998 en raison d'une symptomatologie dépressive accentuée, avec tristesse, passivité, isolement, troubles du sommeil, cauchemars, nervosité et difficultés à exprimer ses émotions. Ils déclarent se rallier à l'avis du docteur V._ quand ce dernier indique qu'une éventuelle invalidité n'est pas liée aux problèmes cardiaques présentés par le patient en avril 1998. En conclusion, ces mêmes médecins préconisent en faveur de l'assuré le versement d'une rente d'invalidité assortie éventuellement d'un programme de réadaptation professionnelle.
Par décision du 27 décembre 1999, l'office de l'assurance-invalidité a rejeté la demande de l'assuré, au motif que ce dernier ne souffrait pas d'une atteinte à la santé invalidante entraînant une incapacité de travail et de gain dans une activité adaptée.
B.- Statuant le 28 juillet 2000, le Tribunal des assurances du canton de Vaud a rejeté le recours formé contre cette décision par l'assuré.
C.- Contre ce jugement, H._ interjette un recours de droit administratif dans lequel il conclut au versement d'une rente entière et, subsidiairement, à la mise en oeuvre d'une expertise médicale afin d'évaluer ses possibilités de travailler et de déterminer son taux d'invalidité.
Il demande, par ailleurs, à être mis au bénéfice de l'assistance judiciaire.
L'office de l'assurance-invalidité conclut au rejet du recours. Quant à l'Office fédéral des assurances sociales, il ne s'est pas déterminé à son sujet.

Considérant en droit :
1.- Selon l'<ref-law>, l'assuré a droit à une rente entière s'il est invalide à 66 2/3 % au moins, à une demi-rente s'il est invalide à 50 % au moins, ou à un quart de rente s'il est invalide à 40 % au moins; dans les cas pénibles, l'assuré peut, d'après l'<ref-law>, prétendre une demi-rente s'il est invalide à 40 % au moins.
Selon l'<ref-law>, pour l'évaluation de l'invalidité, le revenu du travail que l'invalide pourrait obtenir en exerçant l'activité qu'on peut raisonnablement attendre de lui, après exécution éventuelle de mesures de réadaptation et compte tenu d'une situation équilibrée du marché du travail, est comparé au revenu qu'il aurait pu obtenir s'il n'était pas invalide.
2.- Sur la base des pièces médicales figurant au dossier, on peut tenir pour établi que le recourant ne souffre pas d'une atteinte à sa santé physique qui soit propre, à elle seule, à entraîner une incapacité de travail et de gain d'une certaine importance. Il s'agit plutôt de savoir si le recourant souffre d'une atteinte invalidante à sa santé psychique.
3.- Parmi les atteintes à la santé psychique, qui peuvent, comme les atteintes physiques, provoquer une invalidité au sens de l'<ref-law>, on doit mentionner - à part les maladies mentales proprement dites - les anomalies psychiques qui équivalent à des maladies. On ne considère pas comme des conséquences d'un état psychique maladif, donc pas comme des affections à prendre en charge par l'assurance-invalidité, les diminutions de la capacité de gain que l'assuré pourrait empêcher en faisant preuve de bonne volonté; la mesure de ce qui est exigible doit être déterminée aussi objectivement que possible. Il faut donc établir si et dans quelle mesure un assuré peut, malgré son infirmité mentale, exercer une activité que le marché du travail lui offre, compte tenu de ses aptitudes. Le point déterminant est ici de savoir quelle activité peut raisonnablement être exigée dans son cas. Pour admettre l'existence d'une incapacité de gain causée par une atteinte à la santé mentale, il n'est donc pas décisif que l'assuré exerce une activité lucrative insuffisante; il faut bien plutôt se demander s'il y a lieu d'admettre que la mise à profit de sa capacité de travail ne peut, pratiquement, plus être raisonnablement exigée de lui, ou qu'elle serait même insupportable pour la société (<ref-ruling>; VSI 2000 p. 153 consid. 2a et les références).
4.- a) Le premier juge considère, en se fondant sur le rapport du CPS, que le recourant ne présente aucune pathologie psychiatrique, eu égard au diagnostic posé de troubles de l'humeur persistants et de troubles de la personnalité de type limite. Le CPS, relève la juridiction cantonale, met essentiellement en évidence des difficultés socioprofessionnelles et constate d'autre part le "mal être" qui semble se dégager chez le recourant et qui provient de problèmes familiaux qu'il ne paraît pas avoir surmontés.
Ces éléments, bien qu'affectant la capacité résiduelle de travail de l'assuré, ne découlent pas de son handicap :
l'assurance-invalidité ne répond pas de l'impossibilité de travailler à laquelle se heurte un assuré, dans la mesure où celle-ci résulte de son âge, de l'insuffisance de sa formation, de ses difficultés linguistiques ou des effets négatifs de la conjoncture économique; or, selon le premier juge toujours, c'est bien la situation qui prévaut en l'espèce car, comme le relève le CPS, le recourant éprouve avant tout des difficultés à trouver une activité lucrative durable.
b) Ce point de vue ne peut pas être partagé. Il est incontestable, en effet, que le recourant souffre d'une atteinte à sa santé psychique. Outre le diagnostic posé par les médecins du CPS, l'anamnèse révèle une hospitalisation en raison d'une symptomatologie dépressive. Pour autant qu'ils n'apparaissent pas bénins à dire de médecin, on ne saurait décider à l'avance quels sont les troubles psychogènes qui entraînent, ou au contraire qui n'engendrent pas, une incapacité de gain. Si le CPS préconise en l'espèce le versement d'une rente (assorti éventuellement de mesures de réadaptation d'ordre professionnel) c'est bien qu'il considère que les troubles diagnostiqués ne sont pas dépourvus de toute incidence sur la capacité de travail du recourant.
Leur portée ne saurait en tout cas être d'emblée minimisée.
Certes, le CPS attribue l'existence des troubles dont souffre l'assuré à des problèmes conjugaux, à des facteurs socioculturels et aux difficultés de l'intéressé à trouver un emploi. Mais, contrairement à ce que suggère en réalité le jugement attaqué, les causes de l'atteinte à la santé psychique ne jouent pas de rôle quand il s'agit de décider si elle revêt ou non un caractère invalidant (Pra 1997 n° 49 p. 256 consid. 4b in fine). Ce qui est décisif, c'est de savoir si une atteinte à la santé psychique, indépendamment de son origine, entraîne une incapacité de travail et de gain.
c) Dans ces conditions on ne saurait sans plus conclure à l'absence de toute affection psychique invalidante.
Par ailleurs, le rapport du CPS ne se prononce pas sur le point de savoir quelle activité pourrait, le cas échéant, encore être exigée du recourant. Il convient, dès lors, de renvoyer la cause à l'office de l'assurance-invalidité, afin qu'il complète l'instruction, en ordonnant une expertise médicale et statue à nouveau.
5.- Vu la nature du litige, la procédure est gratuite (art. 134 OJ). Dans la mesure où il obtient gain de cause, le recourant a droit à une indemnité de dépens, à la charge de l'intimé (art. 159 al. 1 OJ). Sa demande d'assistance judiciaire est dès lors sans objet.

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est partiellement admis. Le jugement du
Tribunal des assurances du canton de Vaud du 28 juillet
2000, ainsi que la décision de l'Office de l'assurance-invalidité
pour le canton de Vaud du 27 décembre
1999 sont annulés, la cause étant renvoyée à cet office
pour complément d'instruction et nouvelle décision.
II. Il n'est pas perçu de frais de justice.
III. L'office de l'assurance-invalidité versera au recourant une indemnité de dépens de 2500 fr. (y compris la taxe à la valeur ajoutée) pour la procédure fédérale.
IV. Le présent arrêt sera communiqué aux parties, au Tribunal des assurances du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 27 mars 2001
Au nom du
Tribunal fédéral des assurances
Le Président de la IIe Chambre :
Le Greffier :