A.- D._, né le 13 juillet 1968, a été engagé dès le 16 janvier 1995 par l'entreprise G._ SA, en tant qu'ouvrier spécialisé (travaux spéciaux). En sa qualité d'aide-sondeur, il exerçait son activité dans le béton, paroi moulée, pieux, boue, fondations en équipe de deux ouvriers. A ce titre, il était assuré par la Caisse nationale suisse d'assurance en cas d'accidents (CNA) pour les accidents professionnels et non professionnels.
Le 31 janvier 1995, D._ était occupé sur un chantier à B._, lorsqu'il a reçu un flexible de bentonite contre la jambe et qu'il a chuté. Les médecins du Service de chirurgie de l'Hôpital X._, qui l'ont opéré le 6 février 1995, ont posé le diagnostic de déchirure au condyle fémoral du ligament croisé postérieur au genou gauche et de déchirure du ligament latéral interne et du ménisco-fémoral à ce genou. Le patient a présenté une incapacité totale de travail jusqu'au 7 mai 1995, de 50 % du 8 au 28 mai 1995 et de 25 % du 29 mai au 18 juin 1995. A la suite de cet accident, pris en charge par la CNA, il a repris son activité en oeuvrant dans une équipe de trois ouvriers.
A partir du 6 janvier 1997, D._ a consulté le docteur Y._, généraliste à V._, pour des douleurs au genou gauche. Les médecins du Service d'orthopédie et de traumatologie de l'appareil moteur du Centre Z._ ont procédé le 3 juillet 1997 à une arthroscopie du genou. Dans un rapport du 14 juillet 1997, le docteur F._, chef de clinique, a posé le diagnostic de chondrite stade II à III de la trochlée fémorale et du plate au tibial interne gauche et de rupture partielle du ligament croisé postérieur. Selon ce spécialiste, il n'y avait pas d'indication à une plastie du ligament, ni d'autre geste thérapeutique à proposer, mais une modification de l'activité professionnelle était souhaitable. Totalement puis partiellement incapable de travailler dès le 1er mai 1997, l'assuré a présenté depuis le 12 juin 1997 une incapacité totale de travail d'une durée indéterminée. Du 19 novembre 1997 au 28 janvier 1998, il a séjourné à la Clinique de réadaptation de W._.
Le 3 novembre 1997, F._ a déposé une demande de prestations de l'assurance-invalidité. Le Service de réadaptation a soumis l'assuré à un examen psychotechnique.
Dans un rapport du 26 avril 1999, qui se fondait sur les résultats obtenus lors de cet examen, il a avisé l'Office cantonal AI du Valais que celui-ci n'avait pas les potentialités suffisantes pour viser un reclassement. Il lui communiquait les activités possibles et les gains présumables pouvant être pris en considération. En raison des limitations physiques présentées, il partait de l'idée que F._ devait travailler essentiellement en position assise.
Selon le docteur T._, médecin de l'office, les activités proposées par le Service de réadaptation étaient appropriées (avis du 11 mai 1999).
Dans un projet de décision du 17 mai 1999, l'office a avisé F._ que son état de santé était compatible avec l'exercice à plein temps d'une activité lucrative adaptée à son handicap et qu'il était apte, dès février 1998, à réaliser à ce titre un revenu annuel brut moyen de 36 600 fr. Sans l'atteinte à sa santé, il percevrait dans son ancienne activité d'aide-soudeur un revenu annuel de 60 500 fr. Il résultait de la comparaison des revenus une invalidité de 40 %. Par ailleurs, l'office informait l'assuré que des mesures d'ordre professionnel n'étaient pas nécessaires dans son cas.
Le 26 mai 1999, le docteur Y._ a contesté que F._ fût capable de travailler dans un métier tout à fait différent du sien. Il avisait le docteur T._ que la symptomatologie s'était nettement aggravée et l'invitait à revoir la situation médicale. De son côté, l'assuré, par lettre du 7 juin 1999, a déclaré qu'il n'était pas apte physiquement à travailler à 100 % dans les activités retenues par l'office.
Dans un avis du 10 juin 1999, le docteur T._ a considéré que les activités proposées par le Service de réadaptation étaient exigibles.
Se fondant sur un prononcé du 15 juin 1999, l'office, par décision du 1er novembre 1999, a alloué à F._ à partir du 1er mai 1998 un quart de rente d'invalidité, assortie d'un quart de rente complémentaire pour son épouse. Par décision du 23 novembre 1999, il lui a accordé dès le 1er janvier 1999 un quart de rente pour enfant.
B.- Dans des mémoires séparés, F._ a recouru contre ces décisions devant le Tribunal cantonal des assurances du canton du Valais, en concluant, sous suite de frais et dépens, à l'annulation de celles-ci. A titre principal, il demandait que la cause soit renvoyée à l'office AI pour qu'il entreprenne des mesures de reclassement.
A titre subsidiaire, il concluait à l'allocation d'une rente entière d'invalidité, voire très subsidiairement d'une demi-rente. Produisant un certificat médical du docteur Y._ du 29 juillet 1999, il sollicitait la mise en oeuvre d'une expertise aux fins de déterminer quel serait son rendement dans les places de travail indiquées, compte tenu de son handicap.
La juridiction cantonale a joint les causes. Par jugement du 24 avril 2001, elle a rejeté les recours.
C.- F._ interjette recours de droit administratif contre ce jugement, en concluant, sous suite de frais et dépens, à l'annulation de celui-ci et à l'allocation d'une rente entière d'invalidité, subsidiairement d'une demi-rente. A titre très subsidiaire, il demande que la cause soit renvoyée au tribunal cantonal des assurances pour qu'il procède à une expertise et rende une nouvelle décision au sens des considérants.
L'Office cantonal AI du Valais renonce à répondre au recours. L'Office fédéral des assurances sociales ne s'est pas déterminé.

Considérant en droit :
1.- Selon l'art. 104 let. a OJ, le recours de droit administratif peut être formé pour violation du droit fédéral, y compris l'excès et l'abus du pouvoir d'appréciation.
En vertu de l'art. 104 let. b en liaison avec l'art. 105 al. 2 OJ, le recourant peut aussi faire valoir que l'autorité cantonale de recours a constaté les faits pertinents de manière manifestement inexacte ou incomplète ou qu'elle les a établis au mépris de règles essentielles de procédure.
Cependant, dans la procédure de recours portant sur l'octroi ou le refus de prestations d'assurance (y compris la restitution de celles-ci), le pouvoir d'examen du Tribunal fédéral des assurances est plus étendu. Le tribunal peut alors examiner l'opportunité de la décision attaquée; il n'est en outre pas lié par l'état de fait constaté par la juridiction inférieure. Par ailleurs, le tribunal peut s'écarter des conclusions des parties à l'avantage ou au détriment de celles-ci (art. 132 OJ; <ref-ruling> consid. 1c, 120 V 448 consid. 2a/aa et les références).
2.- a) Selon l'<ref-law>, la réadaptation a la priorité sur la rente dont l'octroi n'entre en ligne de compte que si une réadaptation suffisante est impossible.
Saisie d'une demande de rente ou appelée à se prononcer à l'occasion d'une révision de celle-ci, l'administration doit donc élucider d'office, avant toute chose, la question de la réintégration de l'assuré dans le circuit économique (<ref-ruling> s., 99 V 48).
Selon l'<ref-law>, l'assuré a droit au reclassement dans une nouvelle profession si son invalidité rend nécessaire le reclassement et si sa capacité de gain peut ainsi, selon toute vraisemblance, être sauvegardée ou améliorée de manière notable.
Sont réputées nécessaires et adéquates toutes les mesures de réadaptation professionnelle qui contribuent directement à favoriser la réadaptation dans la vie active.
L'étendue de ces mesures ne saurait être déterminée de manière abstraite, puisque cela suppose un minimum de connaissances et de savoir-faire et que seules seraient reconnues comme mesures de réadaptation professionnelle celles se fondant sur le niveau minimal admis. Au contraire, il faut s'en tenir aux circonstances du cas concret. Celui qui peut prétendre au reclassement a droit à la formation complète qui est nécessaire dans son cas, si sa capacité de gain peut ainsi, selon toute vraisemblance, être sauvegardée ou améliorée de manière notable (<ref-ruling> consid. 2a).
Le droit au reclassement suppose que l'assuré soit invalide ou menacé d'une invalidité imminente (art. 8 al. 1 première phrase LAI). Est réputé invalide au sens de l'<ref-law> celui qui n'est pas suffisamment réadapté, l'activité lucrative exercée jusque-là n'étant plus raisonnablement exigible ou ne l'étant plus que partiellement en raison de la forme et de la gravité de l'atteinte à la santé. Le seuil minimum fixé par la jurisprudence pour ouvrir droit à une mesure de reclassement est une diminution de la capacité de gain de 20 % environ (<ref-ruling> consid. 2b et les références).
b) Les premiers juges, se fondant sur le rapport du Service de réadaptation de l'assurance-invalidité du 26 avril 1999, ont retenu que les aptitudes intellectuelles et de raisonnement du recourant sont faibles, de même que son habileté manuelle. Selon eux, c'est avec raison que l'intimé, suivant l'avis de ses spécialistes, a estimé que les potentialités n'étaient pas suffisantes pour viser un reclassement. Cet avis confirme celui des médecins de la Clinique de réadaptation de W._. Pour cette raison, ils ont rejeté le recours dans la mesure où il concluait à un reclassement de l'assuré.
c) Le recourant conteste ce qui précède. Faisant valoir qu'il n'avait que 31 ans au moment déterminant et que le risque d'échec d'une mesure de réadaptation professionnelle est ainsi d'autant plus faible qu'il fait preuve d'une extraordinaire bonne volonté, comme cela ressort d'un rapport du Centre régional O._ de M._, il demande que la cause soit renvoyée à l'intimé pour qu'il réexamine la question de son reclassement.
d) Il n'est pas décisif, pour trancher le point de savoir si le recourant est doté de capacités de reclassement, que le niveau de ses aptitudes intellectuelles ou de raisonnement soit faible, ni que son habileté manuelle ait été qualifiée de très grossière par le service de réadaptation de l'intimé lors de l'examen psychotechnique. Au contraire, puisque cela revient à supposer que le droit à des mesures de reclassement n'existe qu'à partir d'un seuil minimal de connaissances et de savoir-faire, ce qui est contraire à la jurisprudence précitée (<ref-ruling> consid. 2a).
En l'occurrence, le recourant, lors de son séjour à la Clinique de réadaptation de W._, a été présenté au département d'évaluation professionnelle. Selon les résultats de l'évaluation, qui porte sur la période du 5 au 21 janvier 1998, des mesures professionnelles n'étaient pas indiquées (rapport de sortie du 5 février 1998, qui se fonde sur le rapport du département précité du 27 janvier 1998).
Dans leur évaluation professionnelle, les spécialistes de la Clinique de réadaptation de W._ ne nient pas, toutefois, toute capacité de reclassement chez le recourant.
Or, force est de constater que celui-ci est doté de capacités de reclassement. Lors de la décision administrative litigieuse du 1er novembre 1999, il était âgé seulement de 31 ans. Si l'on s'en tient au rapport du Centre O._ de M._ produit en procédure cantonale, dans lequel il est fait mention d'un stage de cariste de deux semaines, l'assuré est de bon commandement et désireux d'apprendre. Par ailleurs, il a un intérêt pour le travail manuel, la sculpture et le tournage, tâches qui lui ont été proposées.
Au regard du principe de proportionnalité (<ref-law>), il se justifie donc de mettre en oeuvre des mesures de reclassement pour un assuré encore jeune et doté de capacités de reclassement, pour autant que l'on puisse considérer, dans le cas d'espèce, que le seuil minimum de 20 % environ pour ouvrir le droit à de telles mesures est atteint (<ref-ruling> consid. 2b), point que l'intimé devra revoir sur la base du consid. 3 du présent arrêt.
3.- Est litigieux le degré d'invalidité du recourant au moment - déterminant en l'occurrence (<ref-ruling> consid. 1b et les arrêts cités) - où la décision du 1er novembre 1999 a été rendue.
a) Selon l'<ref-law>, pour l'évaluation de l'invalidité, le revenu du travail que l'invalide pourrait obtenir en exerçant l'activité qu'on peut raisonnablement attendre de lui, après exécution éventuelle de mesures de réadaptation et compte tenu d'une situation équilibrée du marché du travail, est comparé au revenu qu'il aurait pu obtenir s'il n'était pas invalide.
La comparaison des revenus s'effectue, en règle ordinaire, en chiffrant aussi exactement que possible les montants de ces deux revenus et en les confrontant l'un avec l'autre, la différence permettant de calculer le taux d'invalidité qui ne peut pas, en principe, être ensuite arrondi (méthode générale de comparaison des revenus; <ref-ruling> consid. 2a et 2b; cf. aussi <ref-ruling> consid. 3a et <ref-ruling>).
Le revenu d'invalide doit être évalué avant tout en fonction de la situation professionnelle concrète de l'intéressé.
En l'absence d'un revenu effectivement réalisé, il y a lieu de se référer aux données statistiques, telles qu'elles résultent des enquêtes sur la structure des salaires de l'Office fédéral de la statistique (<ref-ruling> sv.
consid. 3b/aa et bb). On se réfère alors à la statistique des salaires bruts standardisés, en se fondant toujours sur la médiane ou valeur centrale (<ref-ruling> consid. 3b/bb; VSI 1999 p. 182). La mesure dans laquelle les salaires ressortant des statistiques doivent être réduits, dépend de l'ensemble des circonstances personnelles et professionnelles du cas particulier (limitations liées au handicap, âge, années de service, nationalité/catégorie d'autorisation de séjour et taux d'occupation) et résulte d'une évaluation dans les limites du pouvoir d'appréciation. Une déduction globale maximum de 25 % sur le salaire statistique permet de tenir compte des différents éléments qui peuvent influencer le revenu d'une activité lucrative (<ref-ruling> sv. consid. 5b/aa-cc; VSI 2002 p. 70 sv. consid. 4b).
b) L'intimé a fixé à 36 600 fr. le revenu annuel brut moyen que le recourant pourrait réaliser en exerçant à plein temps une activité lucrative adaptée à son handicap permettant d'alterner les positions assise et debout et d'éviter les longs déplacements, les travaux en terrain irrégulier, les échafaudages, les escaliers ainsi que le port de lourdes charges (par exemple en tant qu'ouvrier occupé au montage de cellules dans le domaine électromécanique, ouvrier dans un laboratoire - occupé au lavage et au repassage de pièces - ou encore ouvrier dans un service d'expédition occupé à la préparation des cartons ou des emballages).
c) Les premiers juges ont considéré que le docteur Y._, dans sa prise de position du 26 mai 1999, n'apportait aucun argument démontrant que l'assuré serait incapable d'occuper les emplois susmentionnés. Ils ont retenu que celui-ci, en dépit de la faiblesse de l'articulation du genou gauche, est en mesure d'exercer à temps complet et avec un rendement de 100 % les activités proposées.
d) Se référant à la prise de position précitée du docteur Y._ et au rapport du Centre O._, le recourant fait valoir que les contraintes physiques qui sont les siennes sont incompatibles avec les exigences de rendement du marché actuel de l'emploi et qu'il est illusoire d'imaginer une possibilité en entreprise, seule une reprise du travail en milieu protégé étant envisageable.
Pour cette raison, il nie présenter une pleine capacité de travail dans une activité exigible.
e) La plupart des éventualités assurées (par exemple la maladie, l'accident, l'incapacité de travail, l'invalidité, l'atteinte à l'intégrité physique ou mentale) supposent l'instruction de faits d'ordre médical. Or, pour pouvoir établir le droit de l'assuré à des prestations, l'administration ou le juge a besoin de documents que le médecin doit lui fournir. L'appréciation des données médicales revêt ainsi une importance d'autant plus grande dans ce contexte (Spira, La preuve en droit des assurances sociales, in Mélanges en l'honneur de Henri-Robert Schüpbach, Bâle 2000, p. 268). La jurisprudence a donc précisé les tâches du médecin, par exemple lors de l'évaluation de l'invalidité (<ref-ruling> sv. consid. 1b). La tâche du médecin consiste à porter un jugement sur l'état de santé et à indiquer dans quelle mesure et pour quelles activités l'assuré est incapable de travailler. En outre, les données médicales constituent un élément utile pour déterminer quels travaux on peut encore, raisonnablement, exiger de l'assuré (<ref-ruling> consid. 4, 115 V 134 consid. 2, 114 V 314 consid. 3c, 105 V 158 consid. 1).
En l'espèce, les seuls éléments médicaux dont on dispose qui concernent les activités exigibles sont les conclusions des médecins de la Clinique de réadaptation de W._ figurant dans le rapport de sortie du 5 février 1998, d'une part, et, d'autre part, les avis du médecin de l'intimé des 11 mai et 10 juin 1999.
Selon les médecins de la Clinique de réadaptation de W._, du point de vue médical, on pouvait envisager une activité industrielle légèrement à modérément astreignante, effectuée essentiellement en position assise, à plein temps, et faisant alterner la charge.
Dans ses avis médicaux des 11 mai et 10 juin 1999, le docteur T._ a confirmé les activités proposées par le service de réadaptation de l'intimé dans son rapport du 26 avril 1999.
Toutefois, dans le rapport précité, le service de réadaptation de l'intimé a déterminé les activités exigibles, alors qu'il aurait dû au préalable élucider la question de la capacité résiduelle de travail du recourant. En effet, cette question devait être instruite d'office. Étant donné l'aggravation de la pathologie du genou gauche par la chondrite de surcharge, attestée par le docteur V._ dans son rapport du 5 juin 1998 et par le docteur F._ dans son rapport du 20 janvier 1999, l'intimé ne pouvait pas simplement se fonder sur les conclusions précitées des médecins de la Clinique de réadaptation de W._.
Dès lors il se justifie de renvoyer la cause à l'intimé pour qu'il procède à une instruction complémentaire sur le point de savoir si et dans quelle mesure, au moment déterminant, le recourant subissait une diminution de sa capacité de travail en raison de la pathologie du genou gauche. Il importera également de déterminer si et, cas échéant, dans quelles activités il pourrait être incapable de travailler, subsidiairement quelles sont les activités exigibles. Sur la base des résultats de l'instruction complémentaire, l'office reprendra le calcul du revenu d'invalide (<ref-ruling> sv. consid. 5b/aa-cc).
f) S'agissant du revenu que le recourant pourrait réaliser en qualité d'ouvrier spécialisé dans l'activité d'aide-sondeur s'il n'était pas invalide, l'intimé a retenu un revenu annuel brut de 60 500 fr. (part au 13ème salaire comprise), montant qui est contesté par le recourant.
Le revenu sans invalidité se détermine en règle générale d'après le dernier salaire que l'assuré a obtenu avant l'atteinte à sa santé, en prenant en considération l'évolution des salaires jusqu'au moment du prononcé de la décision (Meyer-Blaser, Bundesgesetz über die Invalidenversicherung (IVG), 1997, p. 205 et 206; RCC 1991 p. 332 consid. 3a).
Dans le cas particulier, le recourant a été engagé par G._ SA dès le 16 janvier 1995 et l'atteinte à sa santé remonte à l'accident du 31 janvier 1995. Sur la base d'un questionnaire pour l'employeur du 22 décembre 1997, l'intimé s'est fondé sur le revenu de 60 499 fr. 55, montant arrondi à 60 500 fr., réalisé par l'assuré en 1996.
C'est en vain, toutefois, que le recourant remet en cause ce montant au motif qu'il est affecté d'une perte de rendement de 12.5 % et qu'en réalité, le salaire auquel il aurait pu prétendre sans l'atteinte à sa santé aurait dû être de 68 000 fr. En effet, comme cela ressort du dossier, l'assuré a exercé en 1996 son activité en oeuvrant dans une équipe de trois ouvriers et le rendement du groupe est resté normal. Aussi, l'employeur lui a-t-il versé son salaire sur la base d'un rendement normal. Même lorsqu'il a mis le recourant à l'injection, où le travail était plus léger, son salaire est resté identique.
Les autres arguments du recourant sont sans pertinence.
4.- Sur le vu de l'issue du litige, le recourant, représenté par un avocat, a droit à une indemnité de dépens pour l'instance fédérale (art. 159 al. 1 en corrélation avec l'art. 135 OJ) et pour l'instance cantonale (art. 85 al. 2 let. f LAVS en liaison avec l'<ref-law>).

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est admis en ce sens que le jugement du
Tribunal cantonal des assurances du canton du Valais,
du 24 avril 2001, et les décisions administratives
litigieuses des 1er et 23 novembre 1999 sont annulés,
la cause étant renvoyée à l'Office cantonal AI du
Valais pour complément d'instruction au sens des considérants
et nouvelle décision.
II. Il n'est pas perçu de frais de justice.
III. L'intimé versera au recourant la somme de 2500 fr. (y compris la taxe sur la valeur ajoutée) à titre de dépens pour l'instance fédérale.
IV. Le Tribunal cantonal des assurances du canton du Valais statuera sur les dépens pour la procédure de première instance, au regard de l'issue du procès de
dernière instance.
V. Le présent arrêt sera communiqué aux parties, au Tribunal
cantonal des assurances du canton du Valais, à
la Caisse de compensation de la Société suisse des
entrepreneurs et à l'Office fédéral des assurances
sociales.
Lucerne, le 24 avril 2002
Au nom du
Tribunal fédéral des assurances
Le Président de la IIe Chambre :
Le Greffier :