A.- R._, a travaillé en qualité d'aide-étancheur au service de l'entreprise X._. Atteint de cataracte bilatérale, il a été mis au bénéfice de prestations de l'assurance-invalidité du 16 janvier au 5 juin 1996.
Le 13 novembre 1996, R._ a rempli un questionnaire en vue d'un nouvel examen de son droit aux prestations de l'assurance-invalidité, en requérant l'allocation d'une rente d'invalidité.
L'Office de l'assurance-invalidité pour le canton de Vaud a confié une expertise à la Policlinique Y._.
Dans un rapport du 11 juin 1998, le professeur A._ et la doctoresse B._ ont posé les diagnostics de troubles somatoformes douloureux chroniques chez une personne immigrée, de status post cure de cataracte congénitale bilatérale en 1996, de status post vagotomie sélective pour ulcus duodénal en 1992, de status post trois cures d'hémorroïdes (de 1979 à 1995) et de status post sinusite etmoïdo-maxillaire en 1997. Tenant compte de la nature du diagnostic, ils évaluaient la capacité de travail raisonnablement exigible à 80 % au moins dans une activité telle que celle exercée auparavant, ce qui impliquait un réentraînement au travail avec l'appui tant des médecins que des services sociaux.
Par décision du 20 juillet 1998, l'office AI a rejeté la demande du 13 novembre 1996.
B.- R._ a recouru contre cette décision devant le Tribunal des assurances du canton de Vaud, en concluant à l'octroi d'une rente.
Par jugement incident du 17 février 2000, déféré au Tribunal fédéral des assurances (cf. arrêt du 6 décembre 2000, I 306/00), la juridiction cantonale a refusé d'ordonner une expertise psychiatrique.
Statuant au fond le 16 février 2001, le Tribunal des assurances a rejeté le recours. A cette occasion, il a précisé que l'assuré pouvait bénéficier d'une aide au placement de la part de l'AI, eu égard aux difficultés qu'il serait susceptible de rencontrer dans la recherche d'un emploi lui permettant de mettre en valeur sa capacité résiduelle de gain de 80 %.
C.- R._ interjette recours de droit administratif contre ce jugement dont il demande l'annulation, avec suite de dépens, en concluant implicitement à l'allocation d'une demi-rente d'invalidité. Il requiert la mise en oeuvre d'expertises médicales et sollicite par ailleurs le bénéfice de l'assistance judiciaire.
L'intimé conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales ne s'est pas déterminé.

Considérant en droit :
1.- Le litige porte sur le degré d'invalidité du recourant (cf. art. 4 et 28 LAI), et par voie de conséquence sur son droit aux prestations de l'AI.
2.- Pour pouvoir calculer le degré d'invalidité, l'administration (ou le juge, s'il y a eu un recours) a besoin de documents que le médecin, éventuellement aussi d'autres spécialistes, doivent lui fournir. La tâche du médecin consiste à porter un jugement sur l'état de santé et à indiquer dans quelle mesure et pour quelles activités l'assuré est incapable de travailler. En outre, les données médicales constituent un élément utile pour déterminer quels travaux on peut encore, raisonnablement, exiger de l'assuré (<ref-ruling> consid. 4, 115 V 134 consid. 2, 114 V 314 consid. 3c, 105 V 158 consid. 1).
En ce qui concerne, par ailleurs, la valeur probante d'un rapport médical, ce qui est déterminant c'est que les points litigieux aient fait l'objet d'une étude circonstanciée, que le rapport se fonde sur des examens complets, qu'il prenne également en considération les plaintes exprimées par la personne examinée, qu'il ait été établi en pleine connaissance de l'anamnèse, que la description du contexte médical et l'appréciation de la situation médicale soient claires et enfin que les conclusions de l'expert soient dûment motivées. Au demeurant, l'élément déterminant pour la valeur probante n'est ni l'origine du moyen de preuve ni sa désignation comme rapport ou comme expertise, mais bel et bien son contenu (<ref-ruling> consid. 3a, 122 V 160 consid. 1c et les références).
Enfin, selon la jurisprudence, il y a lieu d'attacher plus de poids aux constatations faites par les spécialistes d'un centre d'observation de l'assurance-invalidité et d'une clinique orthopédique universitaire, qu'à l'appréciation de l'incapacité de travail par le médecin de famille (RJJ 1995 p. 44, RCC 1988 p. 504 consid. 2).
3.- a) Le recourant reproche aux premiers juges de n'avoir pas instruit plus avant l'incidence de ses affections d'ordre psychique et somatique sur sa capacité de travail. A cet égard, il leur fait grief de s'être fondés sur les conclusions des médecins de la Policlinique Y._ et de n'avoir pas suivi l'avis des médecins qu'il avait personnellement mandatés.
Compte tenu des divergences de vues des médecins qui se sont exprimés à son sujet, il estime que des expertises judiciaires seraient seules de nature à établir que sa capacité de travail est réduite de moitié.
b) Le rapport d'expertise du professeur A._ et de la doctoresse B._ du 11 juin 1998 répond pourtant en tous points aux exigences posées par la jurisprudence citée ci-dessus. Les experts de la Policlinique Y._ ont au demeurant clairement indiqué qu'ils n'avaient pas eu besoin de recourir à des consultations spécialisées pour rédiger leur rapport (ch. 3.3), si bien qu'il est superflu d'ordonner de plus amples investigations médicales destinées à approfondir les aspects tant psychiatriques que somatiques du dossier, comme le recourant le voudrait.
Quoi qu'en dise le recourant, le rapport des experts a donc pleine valeur probante et doit être préféré à l'avis du docteur C._ (cf. rapport du 26 février 1999) auquel il fait implicitement référence.
c) Du rapport d'expertise du 11 juin 1998, on retiendra en particulier que le recourant présente une constitution physique robuste et que l'examen clinique n'a pas mis en évidence de déficit fonctionnel ou de symptomatologie douloureuse. Compte tenu de sa capacité de travail résiduelle (au minimum 80 %) dans l'activité d'aide-étancheur qu'il exerçait jadis, les premiers juges ont nié à juste titre le droit du recourant à la rente d'invalidité qu'il souhaitait obtenir.
Quant à l'aide au placement au sens de l'art. 18 al. 1 LAI (cf. VSI 2000 p. 234), elle est justifiée car le recourant s'est conforté dans l'idée de patient incapable de travailler, en raison de l'important investissement médical et surtout de l'arrêt de travail prolongé qu'il a subi, à tel point qu'il a besoin d'un réentraînement au travail. Le recours est mal fondé.
4.- a) Selon la loi (art. 152 OJ) et la jurisprudence, les conditions d'octroi de l'assistance judiciaire gratuite sont en principe remplies si les conclusions ne paraissent pas vouées à l'échec, si le requérant est dans le besoin et si l'assistance d'un avocat est nécessaire ou du moins indiquée (<ref-ruling> consid. 4a, 372 consid. 5b et les références).
La jurisprudence considère que les conclusions paraissent vouées à l'échec lorsqu'une partie, disposant des moyens nécessaires, ne prendrait pas le risque, après mûre réflexion, d'engager un procès ou de le continuer (<ref-ruling> consid. 4b, 124 I 306 consid. 2c et la référence).
b) En l'espèce, la solution du litige ressortait à satisfaction du jugement attaqué, de sorte que le recours était voué à l'échec. Les conditions d'octroi de l'assistance judiciaire ne sont donc pas remplies.
Au demeurant, contrairement à ce que le recourant laisse entendre, l'octroi de l'assistance judiciaire pour la procédure de recours de première instance n'a pas d'incidence sur le sort d'une requête de même nature introduite devant la Cour de céans (arrêt non publié C. du 6 juillet 1995, I 61/95).

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est rejeté.
II. Il n'est pas perçu de frais de justice.
III. La demande d'assistance judiciaire est rejetée.
IV. Le présent arrêt sera communiqué aux parties, au Tribunal des assurances du canton de Vaud, et à l'Office fédéral des assurances sociales.
Lucerne, le 10 septembre 2001
Au nom du
Tribunal fédéral des assurances
Le Président de la IIe Chambre :
Le Greffier :