A.- G._ souffre d'une affection pulmonaire depuis son plus jeune âge. Après avoir obtenu un certificat fédéral de capacité de mécanicien de précision, il a exploité une station-service et un garage, avant de s'établir à son compte, en 1987, en qualité de restaurateur. Le 25 avril 1995, il a requis l'octroi d'une rente de l'assurance-invalidité, en faisant valoir qu'ensuite de l'ablation d'un lobe pulmonaire, il n'était plus en mesure d'accomplir les efforts physiques requis par son activité professionnelle. En raison de ses difficultés respiratoires, il a remis son établissement au mois de novembre 1995. Par décision du 10 septembre 1996, l'Office AI pour le canton de Vaud a rejeté la demande, motif pris que l'invalidité était inférieure à 40 %. Saisi d'un recours contre cette décision, le Tribunal des assurances du canton de Vaud l'a annulée et a renvoyé la cause à l'administration pour qu'elle examine les possibilités de reclassement dans une profession adaptée au handicap de l'assuré et, en cas d'échec de la réadaptation, le droit éventuel de l'intéressé à une rente d'invalidité (jugement du 21 août 1997). Par des lettres des 23 mars, 29 septembre, 7 décembre 1998 et 25 janvier 1999, le mandataire de l'assuré a demandé à l'office AI de reprendre l'instruction du cas, conformément au prononcé cantonal. Le 11 mars 1999, l'office précité a mis en oeuvre un stage d'information en vue d'un choix professionnel, lequel s'est déroulé du 31 mars au 30 juin 1999 dans la section mécanique du Centre X._. L'assuré a bénéficié d'une indemnité journalière durant cette période. Dans un rapport du 31 mai 1999, les responsables de ce centre de formation ont indiqué que l'assuré possédait les aptitudes professionnelles nécessaires pour mettre en valeur sa capacité de gain. Toutefois, ses limitations physiques et son âge rendaient nécessaire la mise en oeuvre d'un stage d'entraînement au travail d'une durée de six mois. Par une communication du 1er juillet 1999, l'office AI a informé l'assuré de son droit à une mesure professionnelle sous la forme d'un stage de réadaptation dans le cadre d'un reclassement, d'une durée de six mois à partir du 1er juillet 1999. Par des courriers des 9 juillet, 17 août et 4 octobre 1999, l'assuré a sollicité l'octroi d'une indemnité journalière pour la période précédant la mise en oeuvre de cette mesure. Le 8 novembre 1999, l'office AI a informé l'assuré qu'il n'avait pas droit à la prestation requise, dès lors que la mesure accordée n'était pas une mesure de réadaptation mais une simple mesure d'instruction. Par décision du 6 décembre 1999, il a rejeté la demande dont il était saisi, en se fondant sur la motivation contenue dans la lettre du 8 novembre précédent. B.- G._ ayant recouru contre cette décision, le Tribunal des assurances du canton de Vaud a réformé cette dernière, en ce sens que le prénommé a droit à une indemnité journalière d'attente pour la période du 26 août 1995 au 30 mars 1999 (jugement du 29 juin 2000). C.- L'office AI interjette recours de droit administratif en concluant à l'annulation du jugement cantonal. G._ conclut, sous suite de dépens, au rejet du recours. De son côté, l'Office fédéral des assurances sociales (OFAS) propose son admission.