A.- G._ souffre d'une affection pulmonaire depuis son plus jeune âge. Après avoir obtenu un certificat fédéral de capacité de mécanicien de précision, il a exploité une station-service et un garage, avant de s'établir à son compte, en 1987, en qualité de restaurateur.
Le 25 avril 1995, il a requis l'octroi d'une rente de l'assurance-invalidité, en faisant valoir qu'ensuite de l'ablation d'un lobe pulmonaire, il n'était plus en mesure d'accomplir les efforts physiques requis par son activité professionnelle.
En raison de ses difficultés respiratoires, il a remis son établissement au mois de novembre 1995.
Par décision du 10 septembre 1996, l'Office AI pour le canton de Vaud a rejeté la demande, motif pris que l'invalidité était inférieure à 40 %.
Saisi d'un recours contre cette décision, le Tribunal des assurances du canton de Vaud l'a annulée et a renvoyé la cause à l'administration pour qu'elle examine les possibilités de reclassement dans une profession adaptée au handicap de l'assuré et, en cas d'échec de la réadaptation, le droit éventuel de l'intéressé à une rente d'invalidité (jugement du 21 août 1997).
Par des lettres des 23 mars, 29 septembre, 7 décembre 1998 et 25 janvier 1999, le mandataire de l'assuré a demandé à l'office AI de reprendre l'instruction du cas, conformément au prononcé cantonal.
Le 11 mars 1999, l'office précité a mis en oeuvre un stage d'information en vue d'un choix professionnel, lequel s'est déroulé du 31 mars au 30 juin 1999 dans la section mécanique du Centre X._. L'assuré a bénéficié d'une indemnité journalière durant cette période. Dans un rapport du 31 mai 1999, les responsables de ce centre de formation ont indiqué que l'assuré possédait les aptitudes professionnelles nécessaires pour mettre en valeur sa capacité de gain. Toutefois, ses limitations physiques et son âge rendaient nécessaire la mise en oeuvre d'un stage d'entraînement au travail d'une durée de six mois.
Par une communication du 1er juillet 1999, l'office AI a informé l'assuré de son droit à une mesure professionnelle sous la forme d'un stage de réadaptation dans le cadre d'un reclassement, d'une durée de six mois à partir du 1er juillet 1999.
Par des courriers des 9 juillet, 17 août et 4 octobre 1999, l'assuré a sollicité l'octroi d'une indemnité journalière pour la période précédant la mise en oeuvre de cette mesure. Le 8 novembre 1999, l'office AI a informé l'assuré qu'il n'avait pas droit à la prestation requise, dès lors que la mesure accordée n'était pas une mesure de réadaptation mais une simple mesure d'instruction. Par décision du 6 décembre 1999, il a rejeté la demande dont il était saisi, en se fondant sur la motivation contenue dans la lettre du 8 novembre précédent.
B.- G._ ayant recouru contre cette décision, le Tribunal des assurances du canton de Vaud a réformé cette dernière, en ce sens que le prénommé a droit à une indemnité journalière d'attente pour la période du 26 août 1995 au 30 mars 1999 (jugement du 29 juin 2000).
C.- L'office AI interjette recours de droit administratif en concluant à l'annulation du jugement cantonal.
G._ conclut, sous suite de dépens, au rejet du recours. De son côté, l'Office fédéral des assurances sociales (OFAS) propose son admission.

Considérant en droit :
1.- a) Aux termes de l'art. 22 al. 1, première phrase, LAI, l'assuré a droit à une indemnité journalière pendant la réadaptation si les mesures de réadaptation l'empêchent d'exercer une activité lucrative durant trois jours consécutifs au moins ou s'il présente, dans son activité habituelle, une incapacité de travail de 50 pour cent au moins.
En principe, le droit aux indemnités est lié à la période d'exécution de mesures de réadaptation d'une certaine durée, dont ces indemnités sont une prestation accessoire (<ref-ruling> consid. 2a et la référence). Cette règle n'a cependant pas une portée absolue. L'<ref-law> charge en effet le Conseil fédéral de fixer les conditions auxquelles des indemnités journalières peuvent être allouées pour des jours isolés, ainsi que pour la durée de l'instruction du cas, le temps précédant l'exécution de la réadaptation et le temps de mise au courant dans un emploi.
En exécution de ce mandat, le Conseil fédéral a notamment adopté l'<ref-law>, relatif aux indemnités journalières pendant le délai d'attente (indemnités journalières dites "d'attente"). Selon cette disposition réglementaire, l'assuré qui présente une incapacité de travail de 50 % au moins et qui doit attendre le début de prochaines mesures de réadaptation a droit, durant le délai d'attente, à une indemnité journalière (al. 1).
b) Le droit à des indemnités journalières en vertu de l'<ref-law> suppose, par définition, que l'assuré doive attendre le début de mesures de réadaptation et non pas simplement des mesures d'instruction destinées à réunir les données nécessaires sur son état de santé, son activité, sa capacité de travail, son aptitude à être réadapté ou encore sur l'indication de mesures de réadaptation (<ref-ruling> consid. 3b; VSI 2000 p. 212 consid. 2a).
Il faut, en outre, que les mesures de réadaptation apparaissent indiquées, tant objectivement que subjectivement.
Point n'est besoin, en revanche, que l'administration ait rendu une décision à leur sujet; il suffit que de telles mesures entrent sérieusement en ligne de compte dans le cas concret (<ref-ruling> consid. 2a; VSI 2000 p. 212 consid. 2a).
2.- a) En l'espèce, l'intimé a tout d'abord suivi un stage d'information en vue d'un choix professionnel, lequel s'est déroulé du 31 mars au 30 juin 1999. Il est incontestable et incontesté que ce stage était une simple mesure d'instruction destinée à recueillir des données sur l'aptitude de l'intéressé à être réadapté dans une profession relevant du domaine de la mécanique.
A l'issue de ce stage, les responsables du Centre X._ ont attesté que l'assuré, grâce à ses connaissances professionnelles, possédait les qualités nécessaires pour mettre en valeur sa capacité de gain dans le domaine de la mécanique. Toutefois, cette capacité était limitée par sa faiblesse respiratoire l'obligeant à éviter les efforts physiques soutenus et par des irritations provoquées par la fumée et les fortes odeurs dégagées par certains moyens de production. Ces limitations physiques et son âge rendaient nécessaire la mise en oeuvre d'un stage d'entraînement au travail d'une durée de six mois. Outre la pratique des tâches courantes d'un atelier, ce stage avait pour but de permettre à l'assuré d'acquérir la capacité de confectionner des pièces simples d'après un dessin, de régler des machines et des étaux, d'entretenir l'outillage et de constituer un dossier de recherches d'emplois (rapport du 31 mai 1999).
Dans un rapport final du 23 novembre 1999, les responsables du centre de formation ont indiqué que l'assuré avait atteint les buts professionnels visés grâce aux travaux destinés à renforcer ses compétences en mécanique.
Toutefois, son faible état de santé général limitait son rendement dans une mesure relativement importante.
b) Sur le vu des rapports précités, on ne saurait raisonnablement soutenir que le stage d'entraînement au travail suivi du 1er juillet au 31 décembre 1999 constituait une simple mesure d'instruction destinée à réunir les données nécessaires pour se prononcer sur le cas.
Au demeurant, l'office recourant ne conteste plus que le stage en question constituait une véritable mesure de réadaptation au sens de l'<ref-law>. En revanche, il fait valoir qu'une mesure de réadaptation n'apparaissait pas indiquée objectivement ni subjectivement. D'un point de vue objectif, il allègue que des mesures de réadaptation d'ordre professionnel n'ont jamais été sérieusement envisagées depuis le dépôt de la demande. Dans un premier temps, il avait considéré, en effet, que les aptitudes de l'intéressé lui permettaient de retrouver une activité lucrative et d'éviter un préjudice économique. Ensuite, seule une mesure d'instruction avait pu être mise en oeuvre, étant donné le comportement de l'assuré, et c'est seulement au terme de ce stage d'information professionnelle qu'une mesure de réadaptation avait été envisagée.
D'un point de vue subjectif, l'office recourant soutient qu'une telle mesure n'apparaissait pas indiquée en raison des déclarations de l'intimé et de son comportement.
L'OFAS reprend cette argumentation dans sa détermination sur le recours.
c) Le point de vue de l'office recourant ne saurait être partagé. Sur le vu des rapports établis par les responsables du Centre X._, la mesure de réadaptation apparaissait clairement indiquée, ce qui, au demeurant, n'est pas sérieusement contesté. Or, contrairement à ce que semble soutenir le recourant, les circonstances qui font apparaître cette mesure comme indiquée existaient déjà à l'époque du dépôt de la demande. En effet, il n'apparaît pas que l'état de santé de l'intimé et ses conséquences sur sa capacité de travail (cf. le rapport du docteur B._, spécialiste en médecine interne et maladies des voies respiratoires, du 8 février 1996) se soient modifiés durant la période située entre le dépôt de la demande et le moment auquel l'office recourant a jugé nécessaire de mettre en oeuvre le stage d'entraînement au travail.
Certes, l'office AI a tout d'abord estimé que l'assuré était en mesure de reprendre une activité professionnelle lui permettant de réaliser un gain presque équivalent à celui qu'il obtenait dans son activité de restaurateur (lettre du 29 juillet 1996). C'est pourquoi il a nié le droit de l'intéressé à une rente par sa décision du 10 septembre 1996. Toutefois, sur ce point, l'administration a été désavouée par la juridiction cantonale, laquelle lui a ordonné d'examiner les possibilités de reclassement dans une profession adaptée et de se prononcer sur le droit éventuel à une rente seulement en cas d'échec de la réadaptation (jugement du 21 août 1997). Or, l'office AI n'a pas recouru contre ce jugement, lequel est entré en force. Cela étant, la mesure de réadaptation apparaissait objectivement indiquée.
d) L'office recourant objecte que cette mesure n'était pas subjectivement indiquée, étant donné les déclarations de l'intimé et son comportement. Il fait allusion, semble-t-il, à une entrevue qui a eu lieu le 17 avril 1998, au cours de laquelle l'assuré s'est étonné qu'il n'eût pas encore été mis au bénéfice d'une rente et a indiqué qu'il se tiendrait toutefois à disposition en vue d'un stage d'évaluation, à l'issue d'un séjour auprès de sa mère, en Espagne (cf. rapport intermédiaire du 21 avril 1998).
L'office recourant en déduit que l'intéressé n'avait pas la volonté de se soumettre à une mesure de réadaptation.
Cette objection est mal fondée, dès lors qu'il n'est pas possible, sur le vu de ces seules déclarations, d'admettre que l'intimé entendait se soustraire à une mesure de réadaptation indiquée. Il apparaît bien plutôt que c'est l'office AI qui a tardé à mettre en oeuvre les mesures d'instruction nécessaires à l'exécution d'une mesure de réadaptation. C'est en effet seulement au mois d'avril 1998 - soit près de quatre mois après la notification, à la mi-novembre 1997, du jugement cantonal - que l'assuré a été convoqué pour un simple entretien. Et finalement, en dépit de ses nombreuses tentatives de relance (23 mars, 29 septembre, 7 décembre 1998 et 25 janvier 1999), l'intéressé a dû attendre jusqu'à la fin du mois de mars 1999 pour pouvoir bénéficier d'une mesure d'instruction.
e) Vu ce qui précède, le stage d'entraînement au travail suivi par l'intimé du 1er juillet au 31 décembre 1999 constitue une mesure de réadaptation ouvrant droit à des indemnités journalières dites "d'attente", au sens de l'<ref-law>.
3.- a) Aux termes de l'<ref-law>, le droit à l'indemnité s'ouvre au moment où l'office AI constate, sur la base de l'instruction, que des mesures de réadaptation sont indiquées, mais en tout cas quatre mois après le dépôt de la demande.
Dans un commentaire publié dans la RCC 1984 p. 429 s., l'OFAS a précisé qu'en fixant la naissance du droit au plus tard quatre mois après le dépôt de la demande, on a voulu éviter que l'assuré, à moins d'avoir droit à une rente, reste sans ressources durant la période, parfois longue, précédant la décision de mettre en oeuvre une mesure de réadaptation. De son côté, le Tribunal fédéral des assurances a considéré que l'introduction d'un délai de quatre mois représente aussi une autre manière d'aborder le problème du retard éventuel des organes de l'assurance-invalidité. L'on présume qu'un tel délai est suffisant à l'administration, au regard du cours normal de la procédure, pour effectuer les mesures d'instruction nécessaires quant aux possibilités de réadaptation de l'assuré. En principe, et compte tenu de la relative brièveté du délai, il n'est pas besoin de rechercher, en cas de contestation, si une période excessivement longue s'est écoulée entre le moment de la demande de prestations et celui où l'administration constate, sur la base des éléments recueillis par elle, que des mesures de réadaptation sont indiquées : le droit à l'indemnité journalière prend naissance, au plus tard, quatre mois après le dépôt de la demande - pour autant bien entendu, que toutes les autres conditions de ce droit soient réunies - (<ref-ruling> consid. 2b).
b) En l'espèce, l'intimé a déposé sa demande de prestations le 25 avril 1995. Certes, dans sa décision du 10 septembre 1996, l'office recourant a d'abord considéré que la capacité résiduelle de gain de l'intéressé était suffisante pour renoncer à mettre en oeuvre une mesure de réadaptation. On sait toutefois que la juridiction cantonale n'a pas partagé ce point de vue dans son jugement du 21 août 1997. Considérant que la capacité de travail était nulle dans toute activité nécessitant des efforts physiques ou exercée dans un milieu irritant et polluant, et qu'elle était de 50 % dans une activité adaptée, le tribunal cantonal a enjoint l'administration d'ordonner une mesure de réadaptation après instruction sur les possibilités de reclassement de l'assuré. Quoi qu'il en soit, l'office AI a encore attendu plus de quinze mois à compter de la notification du jugement cantonal pour organiser un stage d'observation professionnelle. Cela étant, l'on ne saurait faire supporter à l'assuré les conséquences d'un tel retard (<ref-ruling> consid. 2b).
Les premiers juges étaient dès lors fondés à admettre que le droit à une indemnité journalière d'attente a pris naissance le 26 août 1995. Le jugement entrepris n'est pas critiquable et le recours se révèle mal fondé.

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est rejeté.
II. Il n'est pas perçu de frais de justice.
III. L'office recourant versera à l'intimé la somme de 1000 fr. (y compris la taxe sur la valeur ajoutée) à titre de dépens pour l'instance fédérale.
IV. Le présent arrêt sera communiqué aux parties, au Tribunal des assurances du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 4 février 2002
Au nom du
Tribunal fédéral des assurances
p. le Président de la IIe Chambre :
Le Greffier :