A.- A._ a contracté, à l'âge de dix-huit mois, une maladie virale du système nerveux central. Il en est résulté, sur le plan physique, un hémisyndrome moteur gauche discret, avec atteinte des nerfs crâniens de la face. Ce nonobstant, il a pu effectuer sa scolarité obligatoire avant d'entreprendre avec succès une formation d'enseignant au niveau primaire, achevée en 1986. Dans les années qui ont suivi, il a travaillé comme instituteur et comme éducateur, en alternance avec des périodes de chômage depuis 1992. Dès 1994, en butte à une instabilité professionnelle croissante, il n'a plus occupé que de petits emplois temporaires.
Alléguant un état dépressif, A._ a déposé le 14 mars 1996 une demande de prestations de l'assurance-invalidité. Avec le soutien de l'Office de l'assurance-invalidité du canton de Neuchâtel (ci-après : l'office), l'assuré a entrepris, au mois d'août 1997, un apprentissage de constructeur de bateaux, cependant interrompu au mois de décembre de la même année déjà. D'autres tentatives de reclassement dans le même domaine ont également échoué. Il a, par la suite, été engagé par X._, dans le cadre d'un programme temporaire d'aide aux chômeurs, du 1er octobre 1998 au 31 mars 1999 puis du 1er août au 31 décembre 1999, comme menuisier-charpentier sur le chantier de construction d'un bateau, pour un salaire mensuel de 3300 à 3500 fr. Une curatelle volontaire a, par ailleurs, été instituée par l'autorité tutélaire du district de La Chaux-de-Fonds (décision du 7 septembre 1998).
Dans ce contexte, l'office a procédé à différents examens psychologiques (ORUS, Psychorater et Minimult). Il en est ressorti l'image d'une personnalité ouverte, plutôt aimable, mais mal structurée, peu équilibrée, dominée par l'anxiété ainsi que des phobies, et présentant des difficultés d'adaptation socioprofessionnelle, voire des tendances schizothymiques et hypomanes.
Un mandat d'expertise a été confié au docteur B._ , psychiatre et psychothérapeute FMH. Dans un rapport du 16 février 1999, ce spécialiste a posé le diagnostic d'épisode dépressif moyen et de trouble organique de la personnalité - en relation avec l'atteinte virale survenue pendant l'enfance; il conclut à une incapacité de travail totale dans l'activité d'instituteur ainsi que dans les activités professionnelles requérant un minimum d'organisation. Selon ce médecin, l'assuré pourrait cependant encore exercer des activités professionnelles non qualifiées et peu rémunérées, sans qu'il soit certain qu'il puisse maintenir un rythme de travail régulier à moyen terme.
Par décision du 5 mai 2000, l'office a accordé à A._ une demi-rente d'invalidité à compter du 1er janvier 1997, compte tenu d'un degré d'invalidité de 52,87 % correspondant à la différence entre le gain qu'il aurait pu obtenir sans atteinte à la santé comme enseignant (89 117 fr. 50 l'an) et celui réalisé sur le chantier de X._.
B.- Par jugement du 15 mars 2001, le Tribunal administratif du canton de Neuchâtel a admis le recours formé par A._ contre cette décision. Il a considéré en substance que l'office, qui avait retenu une aptitude de travail totale dans l'activité exercée auprès de X._, avait méconnu les conclusions du docteur B._ et que l'assuré, dont l'incapacité de travail était en réalité totale, devait être mis au bénéfice d'une rente entière d'invalidité.
C.- L'office interjette recours de droit administratif contre ce jugement; il conclut à son annulation et à la confirmation de la décision du 5 mai 2000.
A._ conclut au rejet du recours, avec suite de dépens; l'Office fédéral des assurances sociales ne s'est pas déterminé.

Considérant en droit :
1.- Le jugement du Tribunal administratif du canton de Neuchâtel expose correctement les principes régissant l'évaluation de l'invalidité et les règles déterminant le droit à une rente, ainsi que la jurisprudence relative à la valeur probante des documents médicaux. Il suffit d'y renvoyer sur ces points.
2.- En l'espèce, ni le caractère invalidant de l'atteinte à la santé psychique dont souffre l'intimé ni le revenu qu'il serait à même de réaliser s'il n'en était pas affecté ne sont contestés, si bien que seule doit encore être examinée sa capacité résiduelle de gain.
3.- a) Comme le relève à juste titre l'office recourant, et contrairement à l'opinion des premiers juges, on ne saurait conclure, sur la base du seul rapport du docteur B._, que le recourant ne disposerait plus d'aucune capacité de travail en raison des troubles psychiques dont il souffre. Ce médecin atteste au contraire expressément que l'intimé est encore à même d'exercer une activité professionnelle ne requérant ni qualification ni capacité d'organisation. Si les tests réalisés par l'office confirment, il est vrai, qu'il présente un profil psychologique - pathologique - rendant problématique son insertion dans le monde du travail, de telles difficultés ne suffisent pas, à elles seules, à nier toute capacité de travail ou de gain. Elles doivent, en priorité, être surmontées grâce à l'aide du service de placement (<ref-law>), dont la tâche est d'offrir une aide appropriée aux assurés qui rencontrent des difficultés, engendrées par leur état de santé, dans la recherche d'une nouvelle place de travail (VSI 2000 235 consid. 1).
b) Si, dans son ensemble, le rapport du docteur B._ satisfait aux conditions permettant de lui reconnaître pleine valeur probante (cf. <ref-ruling> consid. 3 et les références), la description qui y est donnée des activités encore accessibles à l'intimé demeure cependant trop vague pour permettre d'évaluer avec suffisamment de précision les gains que ce dernier pourrait en retirer sur un marché du travail équilibré. On ignore en effet concrètement en quoi pourraient consister ces activités - que ce médecin qualifie génériquement de "petits boulots" -, dans quels domaines elles pourraient être exercées et si même l'intimé, décrit comme présentant une certaine excentricité et une instabilité relationnelle (rapport du docteur B._, p. 7), serait à même de les exercer dans le cadre d'une relation de travail présentant un minimum de stabilité.
c) L'intimé a certes exercé, plusieurs mois d'affilée, l'activité de menuisier-charpentier dans le cadre d'un programme temporaire d'occupation. Sur ce point, il convient toutefois de relever, d'une part, que la reconnaissance de l'aptitude au placement de l'intimé par l'autorité compétente en matière de chômage ne préjuge en rien de l'appréciation de sa capacité de travail ou de gain, déterminante pour le droit à une rente d'invalidité (art. 15 al. 3 in fine OACI). D'autre part, de tels programmes, dont le but est de diminuer le risque de chômage de longue durée, de permettre une réintégration rapide sur le marché du travail des personnes au chômage, de promouvoir leurs qualifications professionnelles et d'offrir une expérience professionnelle (<ref-law>), sans entrer en concurrence avec l'économie privée (art. 72 al. 1 in fine LACI), ne correspondent précisément pas à l'offre d'un marché du travail équilibré. On ne saurait, en conséquence, tirer aucune conclusion pertinente de cette expérience en ce qui concerne la capacité résiduelle de travail de l'intimé, respectivement sa capacité de gain.
Le caractère raisonnablement exigible de l'activité exercée dans ce contexte est, par ailleurs, incertain. Il convient en effet de relever que l'assuré souffre non seulement de troubles psychiques, mais également, d'un hémisyndrome moteur gauche à prédominance brachio-faciale (asymétrie motrice) qui rendent lents et imprécis les gestes de sa main gauche (rapport du docteur C._, du 12 novembre 1993, p. 2). On peut ainsi sérieusement douter de l'opportunité de reclasser l'intimé - qui, selon le responsable de sa formation comme constructeur de bateaux, n'aurait présenté qu'une aptitude moyenne au travail du bois et se serait révélé lent et dangereux devant les machines (rapport du docteur B._, pp. 3 s.) -, dans une profession manuelle exigeant de l'habilité au premier chef pour des raisons de sécurité. Il n'en demeure pas moins qu'il y a lieu d'examiner les conséquences du handicap physique sur des activités concrètes ne nécessitant pas un reclassement.
4.- a) Il résulte de ce qui précède que, en l'état, le dossier de la cause ne permet pas de déterminer avec précision les activités que l'intimé est encore apte à exercer et, partant, d'évaluer les gains qu'il serait en mesure d'en retirer. Il convient dès lors de renvoyer la cause à l'office afin qu'il complète l'instruction sur les plans tant médical qu'économique.
b) L'intimé a conclut au rejet du recours; succombant, il ne peut prétendre une indemnité de dépens (art. 159 al. 1 OJ). L'issue du litige en instance fédérale ne remet toutefois pas en cause son droit aux dépens de première instance.

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est admis en ce sens que la décision de
l'Office AI du canton de Neuchâtel, du 5 mai 2000, et
les chiffres 1, 2 et 4 du jugement du Tribunal administratif
du canton de Neuchâtel, du 15 mars 2001,
sont annulés; la cause est renvoyée à l'office pour
complément d'instruction et nouvelle décision dans le
sens des motifs.
II. Il n'est pas perçu de frais de justice.
III. Le présent arrêt sera communiqué aux parties, à la Caisse cantonale neuchâteloise de compensation, au Tribunal administratif du canton de Neuchâtel, ainsi
qu'à l'Office fédéral des assurances sociales.
Lucerne, le 2 novembre 2001
Au nom du
Tribunal fédéral des assurances
Le Président de la IVe Chambre :
Le Greffier :