Faits :
Faits :
A. S._ a travaillé en dernier lieu en qualité de maçon au service de l'entreprise X._.
Alléguant souffrir de lombalgies, il a déposé, le 29 septembre 1998, une demande de prestations de l'assurance-invalidité tendant à l'octroi d'une orientation, ainsi qu'à un reclassement professionnel.
A la demande de l'Office de l'assurance-invalidité du canton de Berne (OAI), l'assuré a fait l'objet d'une expertise réalisée par la doctoresse A._, spécialiste en neurochirurgie, à D._. Dans un rapport du 24 juin 2000, cette praticienne a posé le diagnostic de syndromes douloureux lombaire et cervical. L'assuré était dans l'impossibilité totale d'exercer son activité habituelle de maçon, mais il présentait une capacité de travail de 60 à 65 % dans un emploi adapté.
Par décision du 5 janvier 2001, l'OAI lui a alloué, avec effet rétroactif au 1er septembre 1999, une rente d'invalidité fondée sur une incapacité de gain de 44 %.
Par décision du 5 janvier 2001, l'OAI lui a alloué, avec effet rétroactif au 1er septembre 1999, une rente d'invalidité fondée sur une incapacité de gain de 44 %.
B. S._ a recouru contre cette décision devant le Tribunal administratif du canton de Berne, Cour des affaires de langue française, en concluant, sous suite de frais et dépens, à l'octroi d'une demi-rente d'invalidité au moins.
Le 5 avril 2002, la juridiction cantonale a rejeté le recours dont elle était saisie.
Le 5 avril 2002, la juridiction cantonale a rejeté le recours dont elle était saisie.
C. S._ interjette recours de droit administratif contre le jugement cantonal, dont il requiert l'annulation, en reprenant les conclusions formées devant la cour cantonale.
L'OAI conclut au rejet du recours. L'Office fédéral des assurances sociales a renoncé à se déterminer.

Considérant en droit :
Considérant en droit :
1. Le litige porte sur le taux d'invalidité présenté par le recourant, et par voie de conséquence, sur l'étendue de son droit à une rente d'invalidité.
1. Le litige porte sur le taux d'invalidité présenté par le recourant, et par voie de conséquence, sur l'étendue de son droit à une rente d'invalidité.
2. Le jugement entrepris expose de manière exacte et complète les dispositions légales et réglementaires, ainsi que les principes jurisprudentiel applicables au présent cas. Il suffit donc d'y renvoyer.
On ajoutera que la loi fédérale sur la partie générale du droit des assurances sociales (LPGA) du 6 octobre 2000, entrée en vigueur au 1er janvier 2003, n'est pas applicable en l'espèce, dès lors que le juge des assurances sociales n'a pas à prendre en considération les modifications du droit ou de l'état de fait postérieures à la date déterminante de la décision litigieuse du 5 janvier 2001 (<ref-ruling> consid. 1, 121 V 366 consid. 1b).
On ajoutera que la loi fédérale sur la partie générale du droit des assurances sociales (LPGA) du 6 octobre 2000, entrée en vigueur au 1er janvier 2003, n'est pas applicable en l'espèce, dès lors que le juge des assurances sociales n'a pas à prendre en considération les modifications du droit ou de l'état de fait postérieures à la date déterminante de la décision litigieuse du 5 janvier 2001 (<ref-ruling> consid. 1, 121 V 366 consid. 1b).
3. Le recourant reprend pour l'essentiel les griefs formulés devant l'instance cantonale. Il ne fait cependant valoir aucun argument de nature à mettre en cause le point de vue, dûment motivé, des juges cantonaux.
En particulier, dans le cadre de l'appréciation des preuves, le tribunal administratif a soigneusement analysé les quatre rapports (médicaux et autres), dont se prévaut le recourant pour soutenir qu'il présente une capacité résiduelle de travail de (seulement) 50 % (rapports des 15 décembre et 17 novembre du docteur B._ et rapports des 10 juin 1999 et 31 janvier 2000 de la Division de réadaptation professionnelle de l'OAI). Il a donné, dans chaque cas, les motifs - pertinents - pour lesquels il a considéré que leurs conclusions n'étaient pas aptes à faire naître le moindre doute en ce qui concerne la valeur probante du rapport d'expertise de la doctoresse A._ sur lequel s'est fondé l'office intimé pour se prononcer sur le cas.
En particulier, dans le cadre de l'appréciation des preuves, le tribunal administratif a soigneusement analysé les quatre rapports (médicaux et autres), dont se prévaut le recourant pour soutenir qu'il présente une capacité résiduelle de travail de (seulement) 50 % (rapports des 15 décembre et 17 novembre du docteur B._ et rapports des 10 juin 1999 et 31 janvier 2000 de la Division de réadaptation professionnelle de l'OAI). Il a donné, dans chaque cas, les motifs - pertinents - pour lesquels il a considéré que leurs conclusions n'étaient pas aptes à faire naître le moindre doute en ce qui concerne la valeur probante du rapport d'expertise de la doctoresse A._ sur lequel s'est fondé l'office intimé pour se prononcer sur le cas.
4. 4.1 Conformément à la jurisprudence récente de la cour de céans, ce sont les données existant au moment de l'ouverture du droit à la rente, ainsi que les modifications significatives éventuelles survenues jusqu'au moment de la décision qui ont des conséquences sur le droit à cette prestation qui sont déterminantes pour opérer une comparaison des revenus (<ref-ruling> consid. 4a; ces principes, développés dans le domaine de la LAA, sont applicables à la comparaison des revenus selon l'<ref-law> également: arrêts G. du 22 août 2002 [I 440/01] et L. du 18 octobre 2002 [I 761/01]).
En l'occurrence, la date déterminante pour la comparaison des revenus est 1999, le droit à la rente ayant été octroyé à partir du 1er septembre 1999.
En l'occurrence, la date déterminante pour la comparaison des revenus est 1999, le droit à la rente ayant été octroyé à partir du 1er septembre 1999.
4.2 4.2.1 Pour établir le revenu sans invalidité, il faut prendre le salaire annuel de 60'190 fr. qu'aurait réalisé l'assuré en 1998, au dire de son employeur. Cependant, comme 1999 est en l'occurrence l'année de référence pour la comparaison des revenus, il convient de procéder à une adaptation de ce montant en fonction de l'évolution des salaires de 1998 à 1999, soit une augmentation de 0,3 % (La Vie économique, 12/2001, p. 81, tableau B 10.2), ce qui donne un revenu (arrondi) de 60'370 fr.
4.2.2 Pour la première fois, le recourant fait valoir qu'il était sur le point de devenir maçon qualifié, en s'appuyant sur un bulletin de notes relatives à des cours pratiques qui se sont déroulés début 1998 à l'Ecole Professionnelle C._. Cette affirmation n'est pas de nature à aider l'intéressé. En effet, en ce qui concerne spécifiquement la question de la prise en considération d'un changement hypothétique d'activité, la jurisprudence relative aux <ref-law>, et 18 al. 2 LAA, notamment, (cf. <ref-ruling> consid. 2b, 116 V 249 consid. 1b, 114 V 313 consid. 3a; SVR 2003 MV no 1 p. 1) pose que des possibilités théoriques de développement professionnel ou d'avancement ne doivent être prises en considération que lorsqu'il est très vraisemblable qu'elles seraient advenues. En l'occurrence, ainsi que le Président de la Cour des affaires de langue française l'a fait observer, dans sa demande de prestations (du 29 septembre 1998), le recourant avait fait part de son intention d'accomplir son apprentissage dans son pays d'origine, le Portugal, ce qui est d'autant plus compréhensible que son épouse et ses enfants sont retournés dans ce pays en septembre 1998, avant qu'il ne cesse toute activité le 11 octobre 1998. Dans ces circonstances, on ne saurait admettre que la seule fréquentation d'un stage de maçon qualifié d'une durée de deux mois est apte à prouver les dires du recourant au degré de vraisemblance prépondérante requis. De toute manière, le revenu qu'il aurait pu obtenir en tant que maçon qualifié (5'015 fr. par mois ou 60'180 fr. par an) est inférieur au revenu sans invalidité pris en compte ci-dessus, de sorte que ce moyen doit être rejeté.
4.2.2 Pour la première fois, le recourant fait valoir qu'il était sur le point de devenir maçon qualifié, en s'appuyant sur un bulletin de notes relatives à des cours pratiques qui se sont déroulés début 1998 à l'Ecole Professionnelle C._. Cette affirmation n'est pas de nature à aider l'intéressé. En effet, en ce qui concerne spécifiquement la question de la prise en considération d'un changement hypothétique d'activité, la jurisprudence relative aux <ref-law>, et 18 al. 2 LAA, notamment, (cf. <ref-ruling> consid. 2b, 116 V 249 consid. 1b, 114 V 313 consid. 3a; SVR 2003 MV no 1 p. 1) pose que des possibilités théoriques de développement professionnel ou d'avancement ne doivent être prises en considération que lorsqu'il est très vraisemblable qu'elles seraient advenues. En l'occurrence, ainsi que le Président de la Cour des affaires de langue française l'a fait observer, dans sa demande de prestations (du 29 septembre 1998), le recourant avait fait part de son intention d'accomplir son apprentissage dans son pays d'origine, le Portugal, ce qui est d'autant plus compréhensible que son épouse et ses enfants sont retournés dans ce pays en septembre 1998, avant qu'il ne cesse toute activité le 11 octobre 1998. Dans ces circonstances, on ne saurait admettre que la seule fréquentation d'un stage de maçon qualifié d'une durée de deux mois est apte à prouver les dires du recourant au degré de vraisemblance prépondérante requis. De toute manière, le revenu qu'il aurait pu obtenir en tant que maçon qualifié (5'015 fr. par mois ou 60'180 fr. par an) est inférieur au revenu sans invalidité pris en compte ci-dessus, de sorte que ce moyen doit être rejeté.
4.3 4.3.1 Lorsque l'assuré n'a pas - comme en l'espèce - repris d'activité professionnelle, il y a lieu de se référer aux données statistiques, telles qu'elles résultent des enquêtes sur la structure des salaires de l'Office fédéral de la statistique pour estimer le revenu d'invalide (<ref-ruling> sv. consid. 3b/aa et bb). On se réfère alors à la statistique des salaires bruts standardisés, en se fondant toujours sur la médiane ou valeur centrale.
En l'occurrence, le salaire de référence est celui auquel peuvent prétendre les hommes effectuant des activités simples et répétitives dans le secteur privé en 1998, à savoir 4268 fr. par mois (Office fédéral de la statistique, Enquête sur la structure des salaires 1998, TA1, p. 25, niveau de qualifications 4). Comme les salaires bruts standardisés tiennent compte d'un horaire de travail de 40 heures, soit une durée hebdomadaire inférieure à la moyenne usuelle dans les entreprises en 1999 (41,8 heures; La Vie économique 12/2001, p. 80, tableau B 9.2), ce montant doit être porté à 4'460 fr., soit 53'520 fr. par an. Si l'on adapte ce chiffre à l'évolution des salaires entre 1998 et 1999 de 0,3 %, on obtient 53'680 fr. Il faut en outre prendre en considération le fait que la capacité de travail du recourant doit être réduite de 37,5 % (selon le rapport d'expertise de la doctoresse A._), ce qui donne 33'550 fr. La comparaison avec le revenu sans invalidité de 60'370 fr. donne un taux d'invalidité de 44.42 %. Ce taux ne diffère guère de ceux auxquels sont parvenus les premiers juges (44,29 % et 43,14 %) au terme d'une comparaison des revenus fondée sur les statistiques salariales, en prenant comme années de référence respectivement 1998 et de 2000. Ce taux ouvre le droit à un quart de rente d'invalidité.
4.3.2 Le recourant allègue que la cour cantonale aurait dû opérer un abattement de 25 à 40 % sur le revenu d'invalide, pour tenir compte du passage d'une activité de force à un travail léger et de la nécessité de se reposer. Il se réfère à cet égard à l'arrêt <ref-ruling> ss consid. 5. C'est méconnaître la portée de cette jurisprudence, selon laquelle une réduction maximale de 25 % trouve sa justification lorsque la situation de l'assuré est délicate, eu égard, notamment, à son handicap, à son âge, aux années de service, à sa nationalité, à son taux d'occupation. Or, ainsi que les premiers juges l'ont retenu, la doctoresse A._ a intégré dans son appréciation médico-légale les limitations encourues du fait du handicap du recourant, de même que celles résultant de la diminution de rendement, de sorte qu'un abattement supplémentaire n'est pas justifié (le recourant étant encore jeune et n'ayant que trois années de service à son actif auprès de son dernier employeur). En tout état de cause, même si l'on admettait un abattement de 5 % pour tenir compte de la nationalité étrangère du recourant, on obtiendrait un revenu d'invalide de 31'873 fr. dont la comparaison avec le revenu sans invalidité de 60'370 fr. donnerait 47,2 %; ce taux est insuffisant pour ouvrir le droit à une demi-rente d'invalidité.
4.3.3 Par ailleurs, c'est également en vain que le recourant allègue que seul un emploi de manoeuvre pourrait entrer en considération pour lui (sous-entendu avec le revenu correspondant), pour le motif que des activités de surveillance ne seraient pas disponibles au moment voulu. D'une part, en effet, compte tenu du large éventail d'activités non qualifiées que recouvrent les secteurs de la production et des services, on doit convenir qu'un certain nombre d'entre elles sont légères, permettent l'alternance des positions et ne nécessitent pas de se baisser de manière répétée et sont donc adaptées aux problèmes physiques du recourant, tels qu'ils ont été décrits par l'expert. D'autre part, est seule déterminante la question de savoir dans quelle mesure la capacité de gain résiduelle de l'assuré peut être exploitée économiquement sur le marché du travail équilibré entrant en considération pour lui (VSI 1998 p. 296 consid.3b et les arrêts cités; Omlin, Die Invalidität in der obligatorischen Unfallversicherung, thèse Fribourg 1995, p. 208). Il n'y a pas lieu d'examiner si le recourant peut être placé eu égard aux conditions concrètes du marché du travail, mais uniquement s'il pourrait encore exploiter économiquement sa capacité de travail résiduelle lorsque les places de travail disponibles correspondent à l'offre de la main d'oeuvre.
4.3.4 Le recourant invoque un certificat médical du 26 octobre 2001 du docteur B._ qu'il n'a pas produit en procédure cantonale, alors que l'instruction était encore en cours. De toute manière, ce certificat est postérieur de près de dix mois à la décision attaquée du 5 janvier 2001, de sorte qu'il n'y a pas lieu d'en tenir compte conformément à la jurisprudence (cf. consid. 2 supra). Si l'état de santé du recourant s'est agravé dans l'intervalle, il sera loisible à ce dernier de demander une révision de la rente.
Dans ces circonstances, le recours est mal fondé.

Par ces motifs, le Tribunal fédéral des assurances prononce :
Par ces motifs, le Tribunal fédéral des assurances prononce :
1. Le recours est rejeté.
2. .
Il n'est pas perçu de frais de justice.
Il n'est pas perçu de frais de justice.
3. Le présent arrêt sera communiqué aux parties, au Tribunal administratif du canton de Berne, Cour des affaires de langue française, et à l'Office fédéral des assurances sociales.
Lucerne, le 2 avril 2003
Au nom du Tribunal fédéral des assurances
La Présidente de la IVe Chambre: La Greffière: