A.- A._ a été victime d'une chute lors d'un match de football en mars 1992. Il souffre depuis lors du genou droit.
Employé depuis 1990 en qualité d'ouvrier qualifié au département production d'une boulangerie industrielle, il a poursuivi son activité à temps plein, sous réserve de quelques périodes d'incapacité totale de travail, jusqu'au mois de février 1993. Par la suite, son horaire de travail à été réduit à un mi-temps jusqu'au mois de mars 1994.
Après quelques mois de reprise du travail à 80 puis à 70 %, il n'a plus exercé sa profession que quelques heures par jour, à raison d'un quart-temps d'activité.
Le 29 septembre 1993, A._ a déposé une demande de prestations de l'assurance-invalidité. Dans un rapport du 27 juin 1994 son médecin traitant, le docteur B._, médecin-chef adjoint au service de chirurgie orthopédique et de traumatologie de l'appareil moteur de l'hôpital X._, a posé le diagnostic de synovite chronique après chondrite post-traumatique et status après résection méniscale partielle externe du genou droit.
Confirmant une incapacité de travail de 50 % dans la profession exercée jusqu'alors, ce praticien préconisait une activité essentiellement assise, permettant des déplacements sur de courtes distances et n'imposant pas le port de charges lourdes. Dans un rapport subséquent, du 6 février 1996, il a estimé à 25 %, dans son activité en boulangerie industrielle, la capacité résiduelle de travail de son patient. Il relevait, par ailleurs, que l'état d'esprit de ce dernier n'était pas favorable à une reconversion professionnelle et proposait l'évaluation des composantes psychologiques du cas par un psychiatre.
Parallèlement à l'instruction de cette demande, l'assuré a également élevé des prétentions à l'endroit de la CNA. Dans ce contexte, il a été soumis à l'examen de trois spécialistes du Centre Y._. Dans un rapport du 26 mai 1997, produit par la suite dans la procédure relative à la demande de prestations de l'AI, les docteurs C._, psychiatre FMH, D._, psychologue FMH et E._, orthopédiste FMH, ont confirmé une diminution - cependant difficilement quantifiable à leurs yeux - de la capacité de travail, résultant des atteintes physiques, dans une profession imposant constamment la station debout.
Ils précisaient cependant que la gonarthrose dont souffre l'assuré ne constituait pas, en théorie, un obstacle à l'exercice à temps complet d'une activité adaptée, telle qu'employé de bureau ou huissier de banque. Par ailleurs, sur le plan psychique, la personnalité borderline à traits caractériels et narcissiques compensés de l'assuré n'avait, selon ces médecins, ni caractère pathologique ni incidence sur sa capacité de travail.
Par décision du 7 avril 2000, l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après : l'office) a nié le droit de l'assuré à une rente, au motif que le degré de son invalidité n'était que de 26,03 %, compte tenu des gains qu'il pourrait réaliser dans une activité adaptée, exercée en milieu industriel.
B.- Par jugement du 2 novembre 2000, le Tribunal des assurances du canton de Vaud a rejeté le recours formé contre cette décision par l'assuré.
C.- Ce dernier interjette recours de droit administratif contre ce jugement. Il demande que lui soit reconnu un degré d'invalidité de 50 % et conclut implicitement à l'annulation du jugement entrepris ainsi qu'à l'octroi d'une rente. L'office conclut au rejet du recours. L'Office fédéral des assurances sociales ne s'est pas déterminé.

Considérant en droit :
1.- Le jugement entrepris expose correctement les dispositions légales et la jurisprudence relatives aux conditions du droit à une rente d'invalidité ainsi qu'à l'appréciation par le juge des assurances sociales des pièces médicales, si bien qu'il suffit d'y renvoyer sur ce point.
2.- a) En substance, les premiers juges ont retenu, en se fondant sur les conclusions des experts de Y._, que le recourant disposait encore, malgré son handicap physique et abstraction faite des composantes psychiques non pathologiques, d'une importante capacité résiduelle de travail dans une activité adaptée. Ils ont estimé qu'il était ainsi en mesure de réaliser un revenu annuel de 44 395 fr. en milieu industriel et que, compte tenu d'un revenu sans invalidité de 60 022 fr., correspondant au salaire qu'il aurait pu prétendre, sans atteinte à la santé, au sein de l'entreprise qui l'occupe, le degré de son invalidité doit être arrêté à 26,03 %, ce qui exclut tout droit à une rente.
b) Le recourant reproche aux premiers juges de s'être écartés des conclusions de son médecin traitant, le docteur B._. Il produit à l'appui de son recours un nouveau certificat établi par ce praticien le 19 mars 2001, qui atteste une incapacité de travail de 50 % en relation avec l'affection du genou droit, sous réserve d'une incapacité de travail totale, du 26 janvier au 18 février 2001, en raison d'un traitement médical ponctuel. Il relève par ailleurs qu'un poste de travail a été créé spécialement à son intention par son employeur afin de tenir compte de son handicap.
3.- a) Il ressort de la documentation médicale figurant au dossier que les médecins appelés à se prononcer sur le cas du recourant s'accordent à lui reconnaître, sur le plan physique, une pleine capacité d'exercer une activité adaptée, n'exigeant pas le port de lourdes charges ou la station debout ou assise prolongée (rapport du docteur B._, du 27 juin 1994; dito du docteur F._, du 5 septembre 1994) voire, sur un plan plus théorique, une activité de bureau, comme huissier de banque (rapport Y._, p. 16). On peut, sur ce point, faire abstraction du rapport établi le 3 août 1994 par le docteur G._, médecin d'arrondissement de la CNA, qui se prononce exclusivement sur la capacité de travail du recourant dans son activité actuelle (cf. infra, consid. 4).
b) Les facteurs psychologiques évoqués dans un premier temps par le docteur G._ (rapport du 3 août 1994), puis par le médecin traitant du recourant (rapport du 6 février 1996), ont, par ailleurs, fait l'objet d'une étude approfondie par les médecins de Y._ qui ont abouti à la conclusion que les troubles du caractère présentés par le recourant ne constituent pas une maladie psychique et que cette composante psychogène ne permet pas de justifier une incapacité de travail (rapport du 26 mai 1997, pp. 16 et 20). Ce rapport, établi à la demande de la CNA dans le cadre de l'instruction de la demande de prestations adressée à l'assurance-accidents, n'en répond pas moins, dans le contexte de la présente procédure, aux exigences permettant de lui reconnaître pleine force probante (cf. <ref-ruling> consid. 3a).
c) On ne saurait ainsi reprocher aux premiers juges d'avoir retenu, sur la base de ces pièces, que le recourant est à même d'exercer, à plein temps, une activité adaptée à son handicap.
Le certificat établi le 19 mars 2001 par le docteur B._, produit à l'appui du présent recours, ne permet pas d'aboutir à une autre solution. Ce médecin atteste certes la persistance d'une incapacité de travail de 50 % qu'il impute aux problèmes de genou dont souffre le recourant. Cette évaluation est toutefois trop sommairement motivée pour permettre à la cour de céans de s'écarter des autres avis médicaux et n'apporte, en particulier, aucun élément concret permettant d'exclure une pleine capacité de travail dans une activité adaptée, comme le préconisait ce même médecin dans son rapport du 27 juin 1994.
4.- L'exercice à plein temps d'une activité adaptée au handicap du recourant est, d'un point de vue médical, raisonnablement exigible de ce dernier; c'est dès lors le gain qu'il pourrait en retirer qui doit être pris en considération.
Le fait que l'employeur du recourant a accepté d'aménager ses conditions de travail, notamment par une importante réduction de l'horaire journalier, demeure sans incidence sur l'évaluation de son invalidité, dans la mesure où le gain qu'il obtient dans cette activité à temps partiel est sensiblement inférieur à celui qu'il serait en mesure de réaliser dans une nouvelle activité professionnelle (<ref-ruling>).
Pour le surplus, le recourant ne conteste pas les données économiques sur la base desquelles les premiers juges ont, conformément à l'<ref-law>, procédé à la comparaison des revenus qu'il pourrait réaliser avec et sans invalidité (respectivement 44 395 fr. et 60 022 fr.), qui n'apparaissent, du reste, pas critiquables. On peut encore relever sur ce point que, même en retenant, d'une part, à l'instar de la CNA dans sa décision de rente du 18 mars 1999, le revenu sans invalidité de 61 703 fr.
réalisé par le recourant durant l'année 1998 et, d'autre part, un revenu d'invalide de 42 752 fr. 85 correspondant au salaire statistique mensuel brut (valeur centrale) le plus bas - partant, le plus favorable - dans le secteur de la production (industrie du cuir et de la chaussure) (Enquête suisse sur la structure des salaires 1998, T. A 1, p. 25), sur la base d'un horaire hebdomadaire de 41,9 heures, le degré de l'invalidité calculé de la sorte - dût-on procéder encore à une déduction de 10 % sur le revenu d'invalide afin de tenir compte, le cas échéant, de la nationalité de l'assuré (<ref-ruling> consid. 5b) - n'excéderait pas 30,7 % et demeurerait ainsi largement en deçà de la limite ouvrant le droit à une rente d'invalidité (<ref-law>).
Le recours se révèle mal fondé.

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est rejeté.
II. Il n'est pas perçu de frais de justice.
III. Le présent arrêt sera communiqué aux parties, au Tribunal des assurances du canton de Vaud, à la Caisse cantonale vaudoise de compensation, ainsi qu'à l'Office
fédéral des assurances sociales.
Lucerne, le 10 octobre 2001
Au nom du
Tribunal fédéral des assurances
Le Président de la IIIe Chambre :
Le Greffier :