A.- G._, né en 1949, a travaillé comme mouleur au service de l'entreprise Q._ SA de 1993 à 1998. Le 20 mai 1998, il a sollicité des prestations de l'assurance-invalidité. Dans un rapport du 4 août 1999, le docteur Z._, médecin traitant, a diagnostiqué des troubles somatoformes douloureux avec rachialgies chroniques irradiant dans les membres supérieur et inférieur gauches, une omalgie gauche, et des arthralgies des deux poignets; il a fixé l'incapacité de travail de son patient à 100 %, en indiquant qu'une reprise du travail serait vouée à l'échec. Se fondant sur les avis de divers médecins spécialistes appelés à examiner l'assuré, l'Office de l'assurance-invalidité pour le canton de Vaud (OAI) a, par décision du 20 avril 2000, rejeté la demande de prestations de l'assuré au motif qu'il n'y avait pas d'atteinte à la santé invalidante. B.- G._ a recouru contre cette décision devant le Tribunal des assurances du canton de Vaud en produisant un rapport du 6 juillet 2000 du docteur Y._, spécialiste en médecine interne. Par jugement du 20 juillet 2001, le Président du Tribunal des assurances a admis le recours, annulé la décision entreprise et renvoyé la cause à l'OAI pour qu'il applique les mesures médicales recommandées, soit plus précisément pour qu'il adresse l'assuré au docteur X._, à l'Hôpital H._, pour une évaluation de sa capacité résiduelle de travail, respectivement pour son reconditionnement à l'exercice d'une activité lucrative, "conformément à la méthode appliquée par ce praticien et éprouvée". C.- L'OAI interjette recours de droit administratif contre ce jugement dont il demande l'annulation. G._ conclut, sous suite de frais et dépens, au rejet du recours. L'Office fédéral des assurances sociales ne s'est pas déterminé.