A.- a) Depuis l'année 1991, B._ exerce la profession de mécanicien indépendant. Il souffre d'une épicondylite du coude gauche consécutive à un accident survenu le 11 novembre 1994 (chute d'une échelle). Le docteur K._, médecin à l'hôpital X._, a attesté que l'assuré avait été incapable de travailler du 11 novembre 1994 au 18 août 1995, dans une mesure allant de 50 % à 100 % (rapport du 12 février 1996). De son côté, le docteur C._, médecin traitant, a fait état d'un taux d'incapacité de travail actuel de 50 % dans son activité de mécanicien. A son avis, l'état de santé du patient est stationnaire (rapport du 28 mars 1998).
b) Par convention du 23 septembre 1998, B._ et la Caisse nationale suisse d'assurance en cas d'accidents (CNA) ont mis fin au litige qui les opposait. Aux termes de cette convention, la CNA a accepté d'allouer des indemnités journalières jusqu'au 31 décembre 1997, calculées sur une incapacité de travail de 50 %, puis de verser une rente d'invalidité de 20 % du 1er janvier 1998 jusqu'au 31 janvier 2012. La CNA a pris une décision en ce sens le 22 décembre 1998 (portant sur la rente).
c) De son côté, l'Office de l'assurance-invalidité pour le canton de Vaud (l'office AI) a procédé à une enquête économique pour les indépendants. Il a constaté que les résultats nets de l'entreprise de l'assuré avaient fortement fluctué depuis l'année 1991. Ce dernier est handicapé lorsqu'il travaille sur des gros moteurs, en raison de son atteinte au bras, ce qui le contraint d'utiliser une grue plus fréquemment et occasionne des pertes de temps. En revanche, il peut s'affairer sans restrictions sur des petits moteurs et effectuer les tâches administratives (rapport d'enquête économique du 3 décembre 1996, ch. 5).
Au terme de son rapport, l'enquêteur a évalué le taux d'invalidité de l'assuré à 25 %, appréciation que ce dernier a partagée. Quant à d'éventuelles mesures de réadaptation, l'office AI a estimé qu'elles ne sont pas susceptibles d'améliorer la capacité de gain (rapport du 3 décembre 1996, ch. 6).
Par décision du 29 octobre 1999, l'office AI a alloué une demi-rente d'invalidité à l'assuré ainsi que les rentes complémentaires pour l'épouse et l'enfant, fondées sur un taux d'invalidité de 50 %, cela avec effet du 1er au 30 novembre 1996.
B.- Invoquant la convention passée avec la CNA, B._ a recouru contre cette décision devant le Tribunal cantonal des assurances du canton de Vaud, en concluant au versement d'une demi-rente d'invalidité du 1er décembre 1996 au 31 décembre 1997.
Par jugement du 23 mars 2000, la juridiction cantonale a rejeté le recours.
C.- B._ interjette recours de droit administratif contre ce jugement dont il demande l'annulation, avec suite de dépens, en reprenant ses conclusions formulées en première instance. Il produit un certificat du docteur N._, du 14 septembre 2000, lequel atteste que son incapacité de travail en qualité de mécanicien est de 50 %.
L'intimé conclut implicitement au rejet du recours.
L'Office fédéral des assurances sociales ne s'est pas déterminé.

Considérant en droit :
1.- Le litige porte sur le droit du recourant à une demi-rente de l'assurance-invalidité durant la période s'étendant du 1er décembre 1996 au 31 décembre 1997.
2.- a) A l'appui de ses conclusions, le recourant soutient que l'AI aurait dû suivre la CNA, dès lors que cette dernière avait accepté d'allouer des indemnités journalières en fonction d'un taux d'incapacité de travail de 50 % jusqu'au 31 décembre 1997. Il demande ainsi à la Cour de céans de juger son cas à la lumière de la jurisprudence applicable en matière de coordination de l'évaluation de l'invalidité dans l'assurance-invalidité et dans l'assurance-accidents (cf. <ref-ruling> et <ref-ruling>).
b) En l'occurrence, pour la période échéant le 31 décembre 1997, la CNA n'a pas alloué une rente d'invalidité (<ref-law>) au recourant, mais des indemnités journalières (<ref-law>). De telles prestations sont versées si l'assuré subit une incapacité de travail, sans qu'il soit pour autant invalide. Dès lors, il n'y a pas matière à appliquer les règles de coordination relatives à l'évaluation de l'invalidité à la solution du présent litige.
Au demeurant, même s'il s'était agi d'un cas de coordination du taux d'invalidité dans ces deux assurances sociales, la décision de la CNA n'aurait de toute manière pas lié l'AI. En effet, lorsque la fixation du taux d'invalidité par l'assurance-accidents procède - comme en l'espèce - d'une convention, il ne se justifie plus de faire dépendre le taux estimé par l'AI de celui fixé par la CNA (<ref-ruling> consid. 2b, 112 V 175 consid. 2a).
c) Vu ce qui précède, l'AI pouvait statuer sur le droit du recourant à la rente sans tenir compte de la décision de la CNA.
3.- a) Chez les assurés actifs, le degré d'invalidité doit être déterminé sur la base d'une comparaison des revenus. Pour cela, le revenu du travail que l'invalide pourrait obtenir en exerçant l'activité qu'on peut raisonnablement attendre de lui, après exécution éventuelle de mesures de réadaptation et compte tenu d'une situation équilibrée du marché du travail, est comparé au revenu qu'il aurait pu obtenir s'il n'était pas invalide (<ref-law>). La comparaison des revenus s'effectue, en règle générale, en chiffrant aussi exactement que possible les montants de ces deux revenus et en les confrontant l'un avec l'autre, la différence permettant de calculer le taux d'invalidité. Dans la mesure où ces revenus ne peuvent être chiffrés exactement, ils doivent être estimés d'après les éléments connus dans le cas particulier, après quoi l'on compare entre elles les valeurs approximatives ainsi obtenues. Si l'on ne peut déterminer ou évaluer sûrement les deux revenus en cause, il faut, en s'inspirant de la méthode spécifique pour non-actifs (<ref-law>), procéder à une comparaison des activités et évaluer le degré d'invalidité d'après l'incidence de la capacité de rendement amoindrie sur la situation économique concrète. La différence fondamentale entre la procédure extraordinaire d'évaluation et la méthode spécifique (selon l'<ref-law> en corrélation avec les art. 26bis et 27 al. 1 RAI) réside dans le fait que l'invalidité n'est pas évaluée directement sur la base d'une comparaison des activités; on commence par déterminer, au moyen de cette comparaison, quel est l'empêchement provoqué par la maladie ou l'infirmité, après quoi l'on apprécie séparément les effets de cet empêchement sur la capacité de gain. Une certaine diminution de la capacité de rendement fonctionnelle peut certes, dans le cas d'une personne active, entraîner une perte de gain de la même importance, mais n'a pas nécessairement cette conséquence. Si l'on voulait, dans le cas des personnes actives, se fonder exclusivement sur le résultat de la comparaison des activités, on violerait le principe légal selon lequel l'invalidité, pour cette catégorie d'assurés, doit être déterminée d'après l'incapacité de gain (procédure extraordinaire d'évaluation; <ref-ruling> consid. 2; VSI 1998 p. 122 consid. 1a et p. 257 consid. 2b; Fonjallaz, Invalidité et révision des rentes d'invalidité, thèse Lausanne 1985, pp. 55-56).
b) En l'espèce, il est effectivement impossible d'évaluer l'invalidité du recourant en se fondant sur les résultats comptables de son entreprise. Ceux-ci ont subi de fortes variations depuis l'année 1991, pour des raisons principalement étrangères à l'atteinte à la santé. Dans ces conditions, c'est à juste titre que l'administration et les premiers juges ont appliqué la procédure extraordinaire pour évaluer le degré d'invalidité du recourant.
Il ressort de la comparaison des activités du recourant que ce dernier a réduit, en raison de son handicap, les travaux (réparation, réglages) qu'il effectue sur des gros moteurs (voitures, camions, etc.). La part de ces travaux (les plus lucratifs) dans le temps global qu'il consacre à son entreprise est ainsi passée de 25 % à 5 %.
De concert avec l'inspecteur de l'AI, le recourant a estimé que son handicap physique entraîne une perte de gain qu'il évalue à 25 % (rapport du 3 décembre 1996, ch. 6).
Cette appréciation ne paraît pas critiquable et n'est du reste pas vraiment remise en cause par l'intéressé devant la juridiction fédérale. Ses conclusions portant sur le versement d'une demi-rente d'invalidité sont donc mal fondées (<ref-law>).

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est rejeté.
II. Il n'est pas perçu de frais de justice.
III. Le présent arrêt sera communiqué aux parties, au Tribunal cantonal des assurances du canton de Vaud, et à l'Office fédéral des assurances sociales.
Lucerne, le 30 avril 2001
Au nom du
Tribunal fédéral des assurances
p. le Président de la IIe Chambre :
Le Greffier :