A.- A._, marié et père de deux enfants, a travaillé dès 1986 en qualité de manoeuvre, puis de machiniste, au service de l'entreprise X._ SA.
Atteint d'une coxarthrose bilatérale, prédominante à droite, et de dorso-lombalgies relevant de troubles statiques et dégénératifs avec séquelles de maladie de Scheuermann, il a été reconnu incapable de travailler à 100 % depuis le 15 septembre 1995 pour une durée indéterminée par son médecin traitant, le docteur B._.
Le 23 mai 1996, il a déposé une demande de prestations de l'assurance-invalidité. L'Office de l'assurance-invalidité du canton de Fribourg (ci-après : l'office) lui a accordé un stage au centre d'observation professionnel de l'assurance-invalidité (ci-après : COPAI). Selon le rapport du COPAI du 12 janvier 1998, l'assuré est capable de reprendre une activité à temps partiel n'impliquant pas de déplacement important et permettant d'alterner les positions (surveillance ou gardiennage, travail à l'établi) et pourrait obtenir un rendement proche de la normale. Sur le plan psychiatrique, les docteurs C._ et D._, commis par l'office, ont constaté une réaction dépressive légère consécutive à des problèmes physiques handicapants, sans que le déséquilibre dans l'état psychologique du patient soit suffisamment important pour justifier en soi une incapacité de travail, même s'il aggrave celle qui existe déjà (rapport du 6 mai 1998). Le docteur E._, médecin-chef du service de rhumatologie à l'Hôpital Y._, a confirmé que l'assuré ne pouvait plus reprendre son métier de machiniste, mais disposait toutefois d'une capacité résiduelle de travail de 50 % dans une activité ne nécessitant ni le port de charges, ni de longs déplacements à pied, avec la possibilité de changer de positions (rapport du 10 mai 1999).
L'office a, par décision du 24 novembre 1999, alloué à l'assuré une demi-rente ordinaire, fondée sur un taux d'invalidité de 50 %, assortie d'une rente complémentaire pour le conjoint et pour enfant à partir du 1er septembre 1996. Il a considéré que l'intéressé était en mesure d'exercer à plein temps une activité adaptée à son état de santé, mais avec un rendement de 70 % et disposait d'une capacité de gain résiduelle de 30 712 fr. 50 (43 875 fr. x 70 %) par an.
B.- A._ a recouru contre cette décision devant le Tribunal administratif du canton de Fribourg, en produisant un certificat du docteur B._ du 2 novembre 1999. Sur demande de l'office, il a été soumis à une expertise pluridisciplinaire auprès de la Clinique romande de réadaptation dont il ressort qu'une capacité de travail de 50 % dans une activité adaptée peut être exigée de sa part (rapport du 31 août 2000). Se fondant sur ces conclusions, l'office a considéré que l'assuré était capable de travailler dans une activité d'ouvrier dans l'industrie légère à plein temps, avec un rendement diminué; il a de ce fait admis une réduction de 50 % du revenu que l'assuré pourrait obtenir dans une telle activité, ce qui conduit à un degré d'invalidité de 60 % (observations du 18 octobre 2000). Il a, par décisions du 15 novembre 2000, complété la décision du 24 novembre 1999, en ce sens qu'il a admis des périodes supplémentaires de cotisations versées par l'assuré au Portugal. Par jugement du 23 mai 2001, le Tribunal administratif a admis le recours et annulé la décision attaquée, en reconnaissant à l'assuré une rente entière d'invalidité.
C.- L'office interjette recours de droit administratif en concluant à l'annulation du jugement entrepris et à la confirmation de sa décision du 24 novembre 1999 en ce sens que l'assuré a droit à une demi-rente fondée sur un degré d'invalidité de 60 % dès le 1er septembre 1996.
A._ conclut, avec dépens, au rejet du recours.
L'Office fédéral des assurances sociales ne s'est pas déterminé.

Considérant en droit :
1.- Selon l'<ref-law>, l'assuré a droit à une rente entière s'il est invalide à 66 2/3 % au moins, à une demi-rente s'il est invalide à 50 % au moins, ou à un quart de rente s'il est invalide à 40 % au moins; dans les cas pénibles, l'assuré peut, d'après l'<ref-law>, prétendre une demi-rente s'il est invalide à 40 % au moins.
D'après l'<ref-law>, pour l'évaluation de l'invalidité, le revenu du travail que l'invalide pourrait obtenir en exerçant l'activité qu'on peut raisonnablement attendre de lui, après exécution éventuelle de mesures de réadaptation et compte tenu d'une situation équilibrée du marché du travail, est comparé au revenu qu'il aurait pu obtenir s'il n'était pas invalide.
2.- Les premiers juges ont, sur la base des expertises médicales versées au dossier, retenu que l'intimé présentait une capacité résiduelle de travail de 50 % dans une activité adaptée, ce qu'a également admis le recourant en cours de procédure. Certes, l'intimé semble contester cette appréciation, mais il n'y a toutefois pas lieu de s'en écarter. En effet, elle repose tant sur les conclusions de l'expertise pluridisciplinaire de la Clinique romande de réadaptation du 31 août 2000 que sur le rapport du docteur E._ du 10 mai 1999, lesquels reconnaissent à l'intimé une capacité de travail à 50 % dans une activité permettant une alternance fréquente des positions et évitant tout port de charges et déplacements importants (travail en usine, dans l'assemblage de pièces, dans le triage, le long d'une bande de roulement). Cette capacité de travail résiduelle de 50 % constitue le point de départ pour déterminer le revenu d'invalide de l'intimé. Peu importe à cet égard, contrairement à ce que soutient le recourant, que l'intimé puisse exercer une activité à temps partiel avec un plein rendement ou travailler à plein temps avec un rendement diminué de moitié. Au demeurant, il est vraisemblable qu'il est plus difficile de trouver, dans le secteur de la production et des services, un emploi à plein temps dans lequel seule une prestation réduite de moitié puisse être fournie, plutôt qu'un poste à mi-temps avec prestation complète.
3.- Il reste à examiner quel est le degré d'invalidité présenté par l'intimé en procédant à une comparaison des revenus au sens de l'<ref-law>.
a) S'agissant du revenu sans invalidité, on peut prendre comme référence le salaire de 61 907 fr. par an fixé par le recourant, qui s'est fondé sur les données fournies par l'employeur pour l'année 1998, et qu'ont retenu également les premiers juges. Cependant, comme 1999 est en l'occurrence l'année de référence pour la comparaison des revenus (cf. <ref-ruling> consid. 1b), il convient de procéder à une adaptation de ce montant en fonction de l'évolution des salaires de 1998 à 1999, soit une augmentation de 0,3 % (La Vie économique, 3/2001, p. 101, tableau B 10.2), ce qui donne un revenu de 62 093 fr.
b) En l'absence d'un revenu effectivement réalisé, la jurisprudence considère que le revenu d'invalide peut être évalué sur la base des statistisques salariales telles qu'elles résultent de l'Enquête suisse sur la structure des salaires, publiée par l'Office fédéral de la statistique (<ref-ruling> consid. 3b/bb, 124 V 322 consid. 3b/aa). Dans ce cas, on réduira le montant des salaires ressortant de ces données en fonction des empêchements propres à la personne de l'invalide, par exemple certaines limitations liées au handicap, à l'âge, à la nationalité, à la catégorie de permis de séjour ou au taux d'occupation. Il n'y a toutefois pas lieu d'opérer des déductions distinctes pour chacun des facteurs entrant en considération, mais il convient plutôt de procéder à une évaluation globale des effets de ces facteurs sur le revenu d'invalide, compte tenu de l'ensemble des circonstances du cas concret. La jurisprudence n'admet pas de déduction globale supérieure à 25 % (<ref-ruling> consid. 5).
aa) En l'espèce, on ne saurait se fonder, comme l'ont fait les premiers juges et le recourant dans la décision attaquée, sur le montant de 43 875 fr. pour déterminer le revenu d'invalide de l'intimé. En effet, ce montant ne repose sur aucune donnée objective. Certes, le recourant explique s'être basé sur les indications des employeurs de la place, données de manière officieuse, ainsi que sur les descriptions de poste de travail (DPT) de la CNA. Toutefois, il ne se réfère concrètement à aucune description de poste de travail, ni ne produit au dossier une attestation d'un employeur du canton de Fribourg susceptible de justifier le montant retenu. Une simple référence à des données "officieuses" ne saurait suffire à cet égard puisqu'elle ne permet ni de connaître les sources du revenu exigible retenu, ni de vérifier la fiabilité de celui-ci.
bb) Conformément à la jurisprudence citée, il convient de se référer aux données statistiques publiées par l'Office fédéral de la statistique. En l'occurrence, le salaire de référence est celui auquel peuvent prétendre les hommes effectuant des activités simples et répétitives dans le secteur privé en 1998, (pour 1999, les chiffres ne sont pas encore disponibles), à savoir 4268 par mois (Office fédéral de la statistique, Enquête sur la structure des salaires 1998, TA1, p. 25, niveau de qualifications 4). Au regard du large éventail d'activités simples et répétitives que recouvrent les secteurs de la production et des services, on doit convenir qu'un certain nombre d'entre elles sont légères et permettent l'alternance des positions et sont donc adaptées aux problèmes physiques de l'intimé. Comme les salaires bruts standardisés tiennent compte d'un horaire de travail de 40 heures, soit une durée hebdomadaire inférieure à la moyenne usuelle dans les entreprises en 1999 (41, 8 heures; La Vie économique 3/2001, p. 100, tableau B9.2), ce montant doit être porté à 4460 fr., soit 53 520 fr. par an.
Si l'on adapte ce chiffre à l'évolution des salaires entre 1998 et 1999 de 0,3 % (supra let. a), on obtient 53 680 fr. Il faut en outre prendre en considération une réduction de 50 % de la capacité de travail du recourant, ce qui donne 26 840 fr. (53 680 x 0,5).
cc) Quant à une éventuelle réduction du salaire statistique de 26 840 fr., son principe et son étendue dépendent de l'ensemble des circonstances personnelles et professionnelles du cas concret. Selon l'expertise de la Clinique romande de réadaptation, l'intimé ne peut plus exercer qu'une activité légère sans port de charges et permettant une alternance régulière des positions ainsi qu'une légère déambulation, son état de santé général étant altéré. Il est donc désavantagé sur le marché du travail par rapport à un concurrent sans gêne physique. Par ailleurs, il y a lieu de prendre en considération le fait qu'il ne pourra occuper qu'un poste à temps partiel. Une réduction de 15 % tient raisonnablement compte de la situation, de sorte qu'il y a lieu de s'écarter de l'appréciation des premiers juges sur ce point, lesquels se sont contentés de faire référence "au rendement forcément restreint" de l'intimé sans motiver davantage les raisons qui les ont amenés à accorder l'abattement maximal de 25 % admis par la jurisprudence. Le revenu d'invalide déterminant s'élève ainsi à 22 814 fr.
c) La comparaison avec un revenu réalisable sans invalidité de 62 093 fr. (supra let. a) conduit à un taux d'invalidité de 63,26 % ([62 093 - 22 814] x 100/62 093).
4.- Il suit de là que l'intimé n'a droit qu'à une demi-rente. Dès lors, le recours est bien fondé.

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est admis et le jugement du Tribunal
administratif du canton de Fribourg du 23 mai 2001 est
annulé.
II. Il n'est pas perçu de frais de justice.
III. Le présent arrêt sera communiqué aux parties, au Tribunal des assurances du canton de Fribourg, Cour des assurances sociales, et à l'Office fédéral des
assurances sociales.
Lucerne, le 30 novembre 2001
Au nom du
Tribunal fédéral des assurances
Le Président de la IIIe Chambre :
La Greffière: