A.- G._, né en 1949, a travaillé comme mouleur au service de l'entreprise Q._ SA de 1993 à 1998. Le 20 mai 1998, il a sollicité des prestations de l'assurance-invalidité.
Dans un rapport du 4 août 1999, le docteur Z._, médecin traitant, a diagnostiqué des troubles somatoformes douloureux avec rachialgies chroniques irradiant dans les membres supérieur et inférieur gauches, une omalgie gauche, et des arthralgies des deux poignets; il a fixé l'incapacité de travail de son patient à 100 %, en indiquant qu'une reprise du travail serait vouée à l'échec.
Se fondant sur les avis de divers médecins spécialistes appelés à examiner l'assuré, l'Office de l'assurance-invalidité pour le canton de Vaud (OAI) a, par décision du 20 avril 2000, rejeté la demande de prestations de l'assuré au motif qu'il n'y avait pas d'atteinte à la santé invalidante.
B.- G._ a recouru contre cette décision devant le Tribunal des assurances du canton de Vaud en produisant un rapport du 6 juillet 2000 du docteur Y._, spécialiste en médecine interne.
Par jugement du 20 juillet 2001, le Président du Tribunal des assurances a admis le recours, annulé la décision entreprise et renvoyé la cause à l'OAI pour qu'il applique les mesures médicales recommandées, soit plus précisément pour qu'il adresse l'assuré au docteur X._, à l'Hôpital H._, pour une évaluation de sa capacité résiduelle de travail, respectivement pour son reconditionnement à l'exercice d'une activité lucrative, "conformément à la méthode appliquée par ce praticien et éprouvée".
C.- L'OAI interjette recours de droit administratif contre ce jugement dont il demande l'annulation.
G._ conclut, sous suite de frais et dépens, au rejet du recours.
L'Office fédéral des assurances sociales ne s'est pas déterminé.
Considérant en droit :
1.- Le litige porte sur le droit à des prestations de l'assurance-invalidité.
Dans son arrêt, le premier juge a retenu, de manière quelque peu contradictoire, que l'intimé ne présentait pas d'atteinte à la santé invalidante tout en ordonnant, aux frais de l'assurance-invalidité, son reconditionnement à l'exercice d'une activité lucrative, conformément à une méthode "éprouvée".
2.- Il résulte des différents certificats médicaux que l'intimé présente de multiples atteintes à la santé. Dans son rapport du 6 juillet 2000, le docteur Y._ a posé les diagnostics de fibromyalgia probable versus troubles somatoformes, de rachialgies lombo-dorsales chroniques avec épisodes d'exacerbation, d'une hernie discale foraminale droite avec sciatalgie irritative non déficitaire droite, de cervicarthrose modérée compatible avec l'âge, de pseudarthrose du scaphoïde droit, de pseudarthrose de l'os crochu gauche, d'arthrose acromio-claviculaire bilatérale et polyarthrose débutante, de névrose d'assurance probable et de status après cure de hernie hiatale selon Nissen.
Sous réserve d'investigations complémentaires, il situait le degré d'incapacité de travail entre 30 et 50 %.
Alors que le médecin traitant a attesté une incapacité de travail de 100 %, les autres rapports médicaux, notamment celui du 4 février 1999 du docteur W._, spécialiste en chirurgie et traumatologie, ceux des 10 mai et 11 juin 1999 des praticiens du service de rhumatologie, médecine physique et réhabilitation du Centre Hospitalier C._, et celui du 1er juin 1999 des docteurs V._ et U._, médecins au Service de Psychiatrie S._, ne font pas état d'une incapacité de travail.
Au vu de ces nombreux avis médicaux, partiellement contradictoires, on doit constater qu'il existe tout de même suffisamment d'éléments pour que la question de la capacité de travail de l'intimé soit examinée de manière plus approfondie, contrairement à l'opinion du recourant qui s'en tient à sa décision de refus du 20 avril 2000.
Dans ces circonstances et pour statuer en toute connaissance de cause, un complément d'instruction s'avère nécessaire. Il incombera à l'office recourant d'y procéder, en ordonnant notamment une expertise médicale, au besoin pluridisciplinaire. A l'issue de la procédure d'instruction complémentaire, il lui appartiendra de décider si des mesures médicales ou professionnelles sont nécessaires et/ou si l'intimé peut prétendre d'autres prestations de l'assurance-invalidité.
3.- L'office recourant n'obtenant pas entièrement gain de cause, l'intimé a droit à des dépens partiels pour l'instance fédérale (art. 159 al. 1 en corrélation avec l'art. 135 OJ).
Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est partiellement admis et le jugement du
Tribunal des assurances du canton de Vaud du 20 juillet
2001 est annulé.
II. La décision du 20 avril 2000 de l'Office de l'assurance-invalidité pour le canton de Vaud est annulée.
La cause est renvoyée à cet office pour instruction
complémentaire et nouvelle décision au sens des considérants.
III. Il n'est pas perçu de frais de justice.
IV. L'Office de l'assurance-invalidité pour le canton de Vaud versera à l'intimé la somme de 1000 fr. (y compris la taxe à la valeur ajoutée) à titre de dépens
pour l'instance fédérale.
V. Le présent arrêt sera communiqué aux parties, au Tribunal
des assurances du canton de Vaud et à l'Office
fédéral des assurances sociales.
Lucerne, le 21 août 2002
Au nom du
Tribunal fédéral des assurances
La Présidente de la IVe Chambre :
La Greffière :