Faits :
Faits :
A. P._ a travaillé en dernier lieu en qualité de maçon au service de l'entreprise X._ SA.
Alléguant souffrir d'une hernie discale, il a déposé, le 4 janvier 1996, une demande de prestations de l'assurance-invalidité tendant à son reclassement dans une autre profession.
Du 12 août 1996 au 23 mars 1997, l'assuré a bénéficié, aux frais de l'assurance-invalidité, d'un stage d'observation chez Y._, puis d'un autre stage chez Z._ dans les secteurs de la menuiserie, de la mécanique et de la cuisine.
Du 7 avril 1997 au 31 mai 1998, il a suivi une formation en mécanique au Centre d'enseignement professionnel des industries de la métallurgie (ci-après : CEPIM), ainsi que des cours de français et de mathématiques.
Dès le 1er juin 1998, il a entrepris une formation de régleur CNC (consistant à déplacer les axes d'une machine par commande numérique). Initialement prévue jusqu'au 31 janvier 1999, cette période d'instruction a cependant été interrompue le 12 novembre 1998, l'assuré ayant émis des doutes quant à son utilité pratique et économique. Par ailleurs, P._ a fait valoir «qu'il ne tenait pas le coup physiquement» lors de stages en entreprises et qu'il n'avait pas été suffisamment tenu compte de son état de santé. Il souhaitait que l'assurance-invalidité prenne en charge une autre formation.
A la demande de l'Office de l'assurance-invalidité du canton du Jura (ci-après : l'office), l'assuré a fait l'objet d'une expertise réalisée par le docteur A._, spécialiste en maladie rhumatismales. Dans un rapport du 3 février 1999, ce praticien a posé les diagnostics de lombosciatalgies droites chroniques dans le contexte de hernie discale paramédiane droite L5/S1 avec insuffisance discale, troubles statiques et lombalisation de S1. Selon l'expert, le recourant était totalement inapte à exercer une profession lourde, telle que celle de maçon, mais il présentait une capacité de travail de 80 % dans une activité légère adaptée.
Le 29 avril 1999, l'office a informé l'assuré qu'il le considérait comme réadapté et a classé le dossier. Par courrier du 2 juillet 1999, P._ a invité l'office à rouvrir le dossier et à reprendre le versement des prestations qui lui revenaient ou à rendre une décision formelle de refus.
Par décision du 3 avril 2000, l'office a rejeté la demande de prestations de P._ au motif que ce dernier présentait, à l'issue des mesures de réadaptation, une incapacité de gain de 25 % seulement.
Par décision du 3 avril 2000, l'office a rejeté la demande de prestations de P._ au motif que ce dernier présentait, à l'issue des mesures de réadaptation, une incapacité de gain de 25 % seulement.
B. Par jugement du 21 septembre 2001, la Chambre des assurances du Tribunal cantonal de la République et canton du Jura a rejeté le recours formé contre cette décision par P._.
B. Par jugement du 21 septembre 2001, la Chambre des assurances du Tribunal cantonal de la République et canton du Jura a rejeté le recours formé contre cette décision par P._.
C. Le prénommé interjette recours de droit administratif contre ce jugement. Il conclut, sous suite de frais et dépens, à l'annulation du jugement entrepris, en demandant que la cause soit renvoyée à la cour cantonale ou à l'office, pour qu'ils examinent si et dans quelle mesure il est tenu de poursuivre le stage de formation d'opérateur CNC qu'il a interrompu et/ou si une autre formation doit lui être proposée. Par ailleurs, il sollicite le bénéfice de l'assistance judiciaire gratuite.
L'office a conclu au rejet du recours, cependant que l'Office fédéral des assurances sociales a renoncé à se déterminer.

Considérant en droit :
Considérant en droit :
1. Selon l'<ref-law>, les assurés invalides ou menacés d'une invalidité imminente ont droit aux mesures de réadaptation qui sont nécessaires et de nature à rétablir leur capacité de gain, à l'améliorer, à la sauvegarder ou à en favoriser l'usage. Ce droit est déterminé en fonction de toute la durée d'activité probable.
Conformément à l'<ref-law>, l'assuré a droit au reclassement dans une nouvelle profession si son invalidité rend nécessaire le reclassement et si sa capacité de gain peut ainsi, selon toute vraisemblance, être sauvegardée ou améliorée de manière notable. Sont considérées comme un reclassement les mesures de formation destinées à des assurés qui en ont besoin, en raison de leur invalidité, après achèvement d'une formation professionnelle initiale ou après le début de l'exercice d'une activité lucrative sans formation préalable, pour maintenir ou pour améliorer sensiblement leur capacité de gain (<ref-law>). Le droit au reclassement suppose que l'assuré soit invalide ou menacé d'une invalidité imminente (art. 8 al. 1 première phrase LAI).
Est réputé invalide au sens de l'<ref-law> celui qui n'est pas suffisamment réadapté, l'activité lucrative exercée jusque-là n'étant plus raisonnablement exigible ou ne l'étant plus que partiellement en raison de la forme et de la gravité de l'atteinte à la santé. Le seuil minimum fixé par la jurisprudence pour ouvrir droit à une mesure de reclassement est une diminution de la capacité de gain de 20 % environ (<ref-ruling> sv. consid. 2b et les références).
Est réputé invalide au sens de l'<ref-law> celui qui n'est pas suffisamment réadapté, l'activité lucrative exercée jusque-là n'étant plus raisonnablement exigible ou ne l'étant plus que partiellement en raison de la forme et de la gravité de l'atteinte à la santé. Le seuil minimum fixé par la jurisprudence pour ouvrir droit à une mesure de reclassement est une diminution de la capacité de gain de 20 % environ (<ref-ruling> sv. consid. 2b et les références).
2. 2.1 En l'espèce, les premiers juges se sont fondés, à juste titre, en premier lieu, sur les rapports d'expertise des 3 février 1999 et 28 août 2001 du docteur A._ concernant les activités exigibles de la part du recourant. Il en résulte que celui-ci n'est pas apte à reprendre sa profession antérieure de maçon, mais qu'il présente une capacité de travail de 80% dans une activité légère évitant le port de charges supérieures à 20 kg, les stations assises ou debout prolongées ou encore la répétition de mouvements en antéflexion ou en rotation du tronc. Dans ce sens, la formation d'opérateur CNC paraissait adéquate à l'expert. Basé sur une étude attentive du dossier, comprenant une anamnèse complète des faits médicaux déterminants, une discussion détaillée de la problématique médicale rencontrée par le recourant exempte de contradiction et des conclusions convaincantes, ce rapport remplit toutes les exigences requises par la jurisprudence pour se voir reconnaître entière valeur probante (<ref-ruling> sv. consid. 3a et 3b/aa). Le dossier médical ne contient pas d'élément apte à mettre en doute la pertinence des conclusions du docteur A._. En particulier, dans son rapport complémentaire du 28 août 2001, l'expert a démontré de manière convaincante que le point du vue du médecin traitant, la doctoresse B._ - selon laquelle une opération était un préalable indispensable à l'exercice d'une quelconque activité professionnelle par son patient - n'était pas fondé.
2.2 En deuxième lieu, le jugement cantonal prend appui, à raison, sur le rapport du CEPIM du 8 février 2001 dont il ressort qu'avec la formation qu'il a reçue dans cette institution, le recourant peut sans autre travailler en mécanique de précision ou comme opérateur CNC. Il y lieu de constater d'ailleurs que la formation comme opérateur CNC n'a été interrompue que deux mois avant la date finale prévue et que cette circonstance n'a en rien prétérité le recourant. Dans ce contexte, le moyen du recourant tiré de l'interruption unilatérale et abrupte du stage tombe à faux.
2.3 Par ailleurs, c'est également en vain que le recourant invoque l'insuccès de ses démarches auprès d'une dizaine d'entreprises, en faisant valoir que sa formation au CEPIM, ne lui permet pas de trouver un poste présentant les caractéristiques souhaitées au regard de ses limitations physiques. Est seule déterminante la question de savoir dans quelle mesure la capacité de gain résiduelle de l'assuré peut être exploitée économiquement sur le marché du travail équilibré entrant en considération pour lui (VSI 1998 p. 296 consid. 3b et les arrêts cités; Omlin, Die Invalidität in der obligatorischen Unfallversicherung, thèse Fribourg 1995, p. 208). Il n'y a pas lieu d'examiner si le recourant peut être placé eu égard aux conditions concrètes du marché du travail, mais uniquement - ce qu'a fait l'office intimé -s'il pourrait encore exploiter économiquement sa capacité de travail résiduelle lorsque les places de travail disponibles correspondent à l'offre de la main d'oeuvre.
2.4 Contrairement à l'avis exprimé par l'autorité judiciaire cantonale, le seul fait que le recourant conserve une capacité de gain de 80 % comme opérateur CNC ou comme employé dans la mécanique légère ne permet pas à lui seul de nier son droit à des mesures de reclassement (<ref-ruling> consid. 3). En revanche, l'absence de motivation et l'incidence négative du conflit assicurologique sur l'évolution de la problématique rachidienne excluent toute perspective que les mesures demandées soient aptes à améliorer sensiblement la capacité de gain au sens de l'<ref-law> en liaison avec l'<ref-law>. Dans ces circonstances, les mesures ne viseraient pas leur but et seraient dépourvues de l'efficacité recherchée par le législateur (124 V 109 sv. consid. 2a).
Il s'ensuit qu'il y a lieu de confirmer, par substitution de motifs, le jugement entrepris dans la mesure où il nie le droit du recourant à des mesures de reclassement au sens de l'<ref-law>.
Il s'ensuit qu'il y a lieu de confirmer, par substitution de motifs, le jugement entrepris dans la mesure où il nie le droit du recourant à des mesures de reclassement au sens de l'<ref-law>.
3. Quant au droit à une rente d'invalidité, à supposer que le recours portât sur ce point, il doit être nié, dès lors que la comparaison de revenus - non contestée - à laquelle a procédé l'office intimé, fait ressortir un taux d'invalidité de 25 %, insuffisant pour ouvrir le droit à cette prestation (<ref-law>).
Le recours se révèle dès lors mal fondé.
Le recours se révèle dès lors mal fondé.
4. Selon la loi (art. 152 OJ) et la jurisprudence, les conditions d'octroi de l'assistance judiciaire gratuite sont en principe remplies si les conclusions ne paraissent pas vouées à l'échec, si le requérant est dans le besoin et si l'assistance d'un avocat est nécessaire ou du moins indiquée (<ref-ruling> consid. 4a, 372 consid. 5b et les références).
En l'espèce, bien que le recourant n'obtienne pas gain de cause, son recours n'apparaissait pas de prime abord voué à l'échec. Vu ses moyens économiques limités, l'assistance judiciaire lui est octroyée pour l'instance fédérale. L'attention du recourant est cependant attirée sur le fait qu'il devra rembourser la caisse du tribunal, s'il devient ultérieurement en mesure de le faire (art. 152 al. 3 OJ).

Par ces motifs, le Tribunal fédéral des assurances prononce :
1. Le recours est rejeté.
1. Le recours est rejeté.
2. Il n'est pas perçu de frais de justice.
2. Il n'est pas perçu de frais de justice.
3. L'assistance judiciaire est accordée. Les honoraires (y compris la taxe à la valeur ajoutée) de Me Alain Schweingruber sont fixés à 2500 fr. pour la procédure fédérale et seront supportés par la caisse du triibunal.
3. L'assistance judiciaire est accordée. Les honoraires (y compris la taxe à la valeur ajoutée) de Me Alain Schweingruber sont fixés à 2500 fr. pour la procédure fédérale et seront supportés par la caisse du triibunal.
4. Le présent arrêt sera communiqué aux parties, au Tribunal cantonal de la République et canton du Jura, Chambre des assurances, à la Caisse cantonale de compensation du canton du Jura ainsi qu'à l'Office fédéral des assurances sociales.
Lucerne, le 16 décembre 2002
Au nom du Tribunal fédéral des assurances
Le Président de la IIIe Chambre: La Greffière: