A.- Victime d'un infarctus du myocarde inférieur étendu, thrombolysé le 6 janvier 1997, T._, né en 1947, a été en incapacité totale de travail depuis cette date, jusqu'au 28 février de la même année tout au moins; il a ensuite repris son activité de jardinier à mi-temps jusqu'au 31 janvier 1998, date à laquelle il a été licencié pour motifs économiques. Son salaire mensuel, versé douze fois l'an, était de 4650 fr. Souffrant, par ailleurs, de lombalgies, il a déposé une demande de prestations de l'assurance-invalidité le 6 avril 1998. Après avoir été opéré le 10 février 1999 pour une greffe de la cornée, l'assuré a encore subi, le 6 mars 2000, un triple pontage aorto-coronarien pour maladie coronarienne tritronculaire sévère et angor d'effort de stade II-III.
Dans un rapport du 14 décembre 1999, le docteur N._, cardiologue FMH, expose que, du seul point de vue cardiologique, près de trois ans après un infarctus inférieur, l'évolution est satisfaisante, sans apparition de signes d'ischémie résiduelle et avec une capacité fonctionnelle très satisfaisante; le travail de jardinier, sans gros travaux de terrassement, semble envisageable, en tout cas à temps partiel. Ce praticien réserve cependant les effets d'un syndrome lombo-vertébral, susceptible de limiter cette activité.
A la demande de l'office, l'assuré a, par ailleurs, été examiné le 9 février 2000 par le docteur S._, spécialiste en médecine interne et maladies rhumatismales.
Ce médecin retient les diagnostics de lombalgies chroniques de type mécanique, intermittentes (origine discale L5-S1 et articulaire postérieure L5-S1) dans le cadre d'un déconditionnement physique important, maladie coronarienne tritronculaire, status après infarctus myocardique inférieur thrombolysé le 6 janvier 1997, greffe de cornée de l'oeil droit en janvier ou février 1999 ensuite d'une brûlure en 1969 et obésité de classe I. Selon ce praticien, sur le plan purement rhumatologique, le patient peut effectuer un travail à 100 % qui ne nécessite ni port de charges très lourdes, ni travail en flexion prolongée du tronc ou en "positions vicieuses" du tronc (extension excessive, torsions).
Par décision du 20 septembre 2000, l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après : l'office) a rejeté la demande de prestation au motif que le degré de l'invalidité (19, 78 %) demeurait insuffisant pour ouvrir le droit à une rente. Il a toutefois indiqué à l'assuré qu'à l'échéance d'un délai d'attente d'une année, son droit à une rente serait réexaminé, compte tenu d'une aggravation de son état de santé survenue le 19 janvier 2000 et ayant entraîné une réduction de sa capacité de travail à 50 % dans un emploi adapté.
B.- Par jugement du 25 juin 2001, le Tribunal des assurances du canton de Vaud a admis le recours formé par l'assuré contre cette décision et accordé à ce dernier une demi-rente d'invalidité à partir du 1er janvier 1998.
C.- L'office interjette recours de droit administratif contre ce jugement, dont il requiert l'annulation.
T._ conclut principalement à l'irrecevabilité et subsidiairement au rejet du recours, le tout sous suite de frais et dépens, cependant que l'Office fédéral des assurances sociales ne s'est pas déterminé.

Considérant en droit :
1.- Il ressort très clairement de l'écriture déposée par l'office recourant le 16 août 2001 que ce dernier entend obtenir l'annulation du jugement du 25 juin 2001.
L'office conteste expressément l'appréciation de la capacité résiduelle de gain de l'assuré soit, en particulier, la déduction de 40 % opérée par les juges cantonaux sur le revenu d'invalide retenu dans la décision du 20 septembre 2000. Contrairement à l'opinion de l'intimé, cette motivation topique répond aux réquisits de l'art. 108 al. 2 OJ, si bien qu'il convient d'entrer en matière sur le fond du recours.
2.- Le jugement entrepris expose correctement les principes légaux et jurisprudentiels régissant l'évaluation de l'invalidité et le droit à une rente, si bien qu'il suffit d'y renvoyer sur ce point.
3.- a) En substance, les premiers juges ont exposé que les conclusions des docteurs N._ et S._ ne concordaient pas nécessairement, à leurs yeux. Ils ont relevé que, alors que le docteur N._ est d'avis que son patient peut encore exercer la profession de jardinier sous certaines conditions - activité se déroulant par principe en plein air -, le docteur S._ évoque la possibilité d'un emploi adapté exercé à plein temps, en d'autres termes, d'une activité déployée exclusivement en intérieur.
Ils ont encore constaté que les affections dont souffre l'assuré, considérées globalement, sont à l'évidence de nature à réduire sa capacité de rendement. Forts de ces constatations, les premiers juges ont indiqué avoir acquis la conviction que l'assuré aurait pu être engagé dans un poste correspondant à sa capacité résiduelle de travail, soit 100 %, mais pour une rétribution égale à 60 % du gain d'invalide déterminé par l'office.
b) Pour sa part, l'office objecte que si les médecins qui se sont prononcés sur le cas préconisent certaines limitations de l'activité (absence de travaux de force, stricte limitation du port de charges et exclusion des flexions et positions inadéquates du tronc), aucun d'entre eux ne fait état d'une possible réduction du rendement dans une activité adaptée. Les emplois d'opérateur en galvanisation, d'ouvrier de production (adoucissage circulaire ou affûtage d'instruments dentaires), ou des activités de montage industriel, de magasinage léger ou de conditionnement, tous compatibles avec les limitations fonctionnelles de l'assuré, permettraient à ce dernier de réaliser un revenu annuel brut moyen de 44 629 fr. sans qu'aucune déduction soit justifiée.
4.- a) De l'avis des spécialistes consultés, l'assuré était, à tout le moins jusqu'au mois de décembre 1999, en mesure d'exercer sa profession de jardinier, d'un point de vue cardiologique. Dans ce contexte, le docteur N._ relève en effet, notamment, une capacité fonctionnelle satisfaisante sur la base des tests d'effort réalisés (rapport du 14 décembre 1999). D'un autre côté, sur le plan purement rhumatologique, le docteur S._ retient une capacité de travail entière dans une activité ne nécessitant ni le port de charges très lourdes, ni travaux en flexion prolongée ou en positions inadéquates du tronc.
Contrairement à l'avis des premiers juges, aucun de ces rapports médicaux ne permet de justifier un abattement global de 40 % du revenu d'invalide retenu par l'office. Ni les considérations émises en relation avec les conditions de travail - en plein air ou en milieu fermé - ni l'obésité du recourant, qualifiée de modérée par le docteur N._, ne permettent d'étayer cette appréciation. On ne voit, du reste, pas ce qui, dans ce contexte, autoriserait une telle réduction globale, supérieure à celle admise par la jurisprudence de la Cour de céans en relation avec les revenus hypothétiques déterminés sur la base des statistiques salariales (<ref-ruling> consid. 5)
On ne saurait toutefois non plus s'en remettre au revenu d'invalide tel que déterminé par l'office recourant.
Dans son écriture du 14 août 2000, ce dernier indique s'être référé à des données établies sur la base du listing REA et du fichier DPT CNA-AI. Les indications fournies - aucune description de poste de travail n'ayant, au demeurant, été produite formellement - ne permettent de déterminer ni à quelle année de référence se rapportent les salaires en question, ni même si les postes de travail en question existent toujours. Elles ne renseignent, par ailleurs, que de manière très succincte sur les activités en cause.
On ignore ainsi, notamment, si elles sont concrètement accessibles à une personne qui, comme l'intimé, ne bénéficie pratiquement que d'une vision monoculaire (rapport du docteur S._, anamnèse personnelle, p. 2).
b) Cela étant, l'assuré n'ayant pas repris d'activité lucrative, sa capacité résiduelle de gain peut être déterminée sur la base de données statistiques (<ref-ruling> consid. 3). Au regard du large éventail d'activités simples et répétitives offertes par les secteurs de la production et des services, on doit convenir qu'un marché du travail équilibré offre un nombre significatif de postes de travail n'exigeant ni port de charges très lourdes, ni travail en flexion prolongée ou position inadéquate du tronc et pouvant, par ailleurs, être occupés sans risque ni difficulté particulière par une personne atteinte d'une importante diminution de l'acuité visuelle d'un oeil.
c) Selon les données de l'enquête suisse sur la structure des salaires (ESS) 1998, le revenu mensuel standardisé d'un homme exerçant une activité simple et répétitive s'élevait, tous domaines confondus, à 4268 fr. par mois (valeur médiane). Ce montant correspond, pour un horaire de travail moyen de 41,9 heures (cf. <ref-ruling> consid. 7a) à un salaire annuel brut, en 1998, de 53 648 fr. 75. Compte tenu, par ailleurs, de l'ensemble des circonstances du cas d'espèce (soit en particulier l'âge de l'assuré, né en 1947, sa scolarité interrompue à l'âge de 12 ans, la diminution de son acuité visuelle et les diverses limitations posées par les médecins à son activité), qui justifient la réduction maximale de 25 % de ce salaire statistique, le revenu d'invalide peut être arrêté à 40 236 fr. 55.
En comparaison du revenu de 55 800 fr. (4650 fr. x 12) ressortant du compte individuel de l'intimé, ce gain sans invalidité fait apparaître un taux d'incapacité de gain de 27,89 % ([55 800 - 40 236] / 55 800], qui demeure insuffisant pour lui ouvrir le droit à une rente (<ref-law>), si bien que le recours de l'office se révèle fondé dans son principe.

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est admis et le jugement du Tribunal des
assurances du canton de Vaud du 25 juin 2001 est annulé.
II. Il n'est pas perçu de frais de justice.
III. Le présent arrêt sera communiqué aux parties, au Tribunal des assurances du canton de Vaud, à la Caisse cantonale vaudoise de compensation ainsi qu'à l'Office
fédéral des assurances sociales.
Lucerne, le 10 mai 2002
Au nom du
Tribunal fédéral des assurances
Le Président de la IIe Chambre :
Le Greffier :