A.- A._ a exploité, à titre indépendant, une entreprise de charpenterie, couverture, menuiserie jusqu'en 1997. Dès 1995, elle a rencontré des problèmes de santé.
A partir du 26 juin 1997, elle a bénéficié de 720 indemnités journalières que lui a versées son assureur perte de gain.
Dans un rapport du 1er octobre 1997, le docteur B._, spécialiste en maladies rhumatismales, a posé le diagnostic de lombalgies chroniques sur scoliose dégénérative du rachis lombaire, ainsi que de hernies discale et intra-foraminale.
Le 5 novembre 1997, elle a déposé une demande de prestations de l'assurance-invalidité (reclassement dans une nouvelle profession et rente), en raison de douleurs dorsales survenues dès 1995.
Le docteur C._, médecin traitant, a constaté que sa patiente présentait une incapacité de travail de 100 % du 26 avril 1997 au 31 janvier 1999 et de 50 % à partir de cette date (rapports des 14 novembre 1997 et 1er août 1999).
Dans un rapport du 11 janvier 1999, le docteur D._, spécialiste en médecine interne et rhumatologie, a déclaré qu'au vu des problèmes rachidiens présentés par A._, il ne lui paraissait pas possible qu'elle poursuive son travail de menuisier charpentier, en revanche un travail à temps réduit (50 % à 60 environ) lui semblait indiqué.
A._ a travaillé à 50 %, à partir du 1er février 1999, comme ouvrière de fabrication, et à partir du 2 mai 2000, comme ouvrière polyvalente, à 50 %.
Par décision du 21 février 2000, l'Office de l'assurance-invalidité du canton du Jura (ci-après : OAI) a nié le droit de l'assurée à une rente d'invalidité, au motif qu'elle ne subissait pas de perte économique.
B.- A._ a recouru contre cette décision devant le Tribunal cantonal du canton du Jura, Chambre des assurances, en concluant à l'octroi des prestations demandées.
Elle a produit un rapport médical du 28 février 2000 du docteur D._, dont il ressort qu'elle présentait actuellement une capacité de travail de 50 % et qu'il était difficile d'envisager une augmentation de ce taux.
Par jugement du 23 novembre 2000, la juridiction cantonale a rejeté le recours formé par l'assurée.
C.- A._ interjette recours de droit administratif contre ce jugement dont elle demande l'annulation.
Sous suite de frais et dépens, elle conclut, principalement, à l'octroi d'une demi-rente d'invalidité et, subsidiairement, au renvoi de la cause, pour nouvelle décision, à l'autorité qui a statué en première instance. Elle sollicite également le bénéfice de l'assistance judiciaire gratuite.
L'OAI conclut au rejet du recours. L'Office fédéral des assurances sociales ne s'est pas déterminé.

Considérant en droit :
1.- Est litigieux le taux d'invalidité présenté par la recourante.
2.- Les premiers juges ont exposé les règles et principes jurisprudentiels applicables en matière d'évaluation de l'invalidité, de sorte qu'il suffit de renvoyer à leur jugement.
3.- a) La juridiction cantonale a considéré que la recourante présentait une incapacité de travail de 40 à 50 %, mais que la comparaison des revenus ne laissait apparaître aucune perte de gain. Pour déterminer le revenu sans invalidité, elle s'est fondée sur les revenus nets que la recourante a obtenus en 1995 (6893 fr.) et en 1996 (4656 fr.), soit les deux années précédant l'incapacité totale de travail qu'elle a subie jusqu'en janvier 1999.
Elle a comparé ces montants avec le revenu mensuel net de 1320 fr. que la recourante a réalisé, depuis le 1er février 1999, en tant qu'ouvrière de fabrication à un taux d'occupation de 50 %.
b) La recourante admet qu'elle présente un taux d'incapacité de travail de 50 %, mais soutient que les premiers juges auraient dû appliquer la méthode extraordinaire de comparaison des revenus, en lieu et place de la méthode générale de comparaison. L'entreprise avait dû être liquidée, en raison de ses problèmes de santé et au vu de la conjoncture. Par ailleurs, l'exploitation n'était plus adaptée à une femme de son âge. Pour ces divers motifs, elle avait décidé d'exercer une activité professionnelle dépendante, de sorte qu'il était arbitraire de retenir, à titre de revenu sans invalidité, le revenu d'une activité qu'elle n'aurait plus exercée si elle avait été valide.
Elle se prévaut, à cet égard, d'une violation de l'<ref-law>. A son sens, le revenu sans invalidité devrait correspondre au double du salaire qu'elle réalise, dès lors que les médecins lui reconnaissent une capacité de travail de 50 %, seulement, et qu'il paraît difficile d'envisager une augmentation de ce taux, eu égard à l'évolution peu favorable de ses problèmes rhumatologiques (rapport du docteur D._ du 28 décembre 2000). Elle en conclut qu'en l'espèce, le taux de l'invalidité se confond avec le taux de l'incapacité fonctionnelle.
4.- a) Aux termes de l'<ref-law>, le revenu du travail que l'invalide pourrait obtenir en exerçant l'activité qu'on peut raisonnablement attendre de lui, après exécution éventuelle de mesures de réadaptation et compte tenu d'une situation équilibrée du marché du travail, est comparé au revenu qu'il aurait pu obtenir s'il n'était pas invalide.
Le revenu sans invalidité se détermine en règle générale d'après le dernier salaire que l'assuré a obtenu avant l'atteinte à la santé, en tenant compte de l'évolution des salaires intervenue jusqu'au moment du prononcé de la décision (Meyer-Blaser, Bundesgesetz über die Invalidenversicherung (IVG), 1997, p. 205 et 206).
En principe, un gain modeste sera également pris en considération pour déterminer le revenu sans invalidité, s'il est établi que l'assuré s'en serait contenté même s'il avait été en bonne santé (<ref-ruling> consid. 5c/bb et les arrêts cités; Meyer-Blaser, op. cit. p. 208). En revanche, si compte tenu de l'ensemble des circonstances du cas particulier, il apparaît que l'assuré ne s'est pas contenté d'un revenu modeste de son plein gré, il y aura lieu - à défaut d'indices concrets déterminants - de se référer aux valeurs médianes résultant de l'enquête de l'Office fédéral de la statistique sur la structure des salaires pour fixer le revenu sans invalidité (VSI 1999 p. 248 sv consid. 3b; RCC 1992 p. 96 sv consid. 4; comp.
Meyer-Blaser, op. cit. p. 208).
b) En l'espèce, le dossier révèle qu'après une période de haute conjoncture (1980-1990), la recourante a réalisé un revenu de 4900 fr. en 1993 et de 6100 fr. en 1994; les revenus nets de la recourante en 1995 et 1996 étaient respectivement de 6893 fr. et 4656 fr. Par ailleurs, les revenus retenus pour l'IFD en 1991 et 1992 étaient de 5275 fr.
et de 0 fr. Il découle de ces données chiffrées que, depuis 1991, les revenus réalisés avant et après l'apparition des douleurs invalidantes (1995) sont du même ordre de grandeur (sous réserve des années 1997 et 1998, non déterminantes, pendant lesquelles la recourante a bénéficié d'indemnités journalières de son assurance perte de gain). Dans la mesure où, pendant au moins quatre ans avant la date de l'apparition des douleurs, la recourante s'est contentée d'un revenu moyen de 4068 fr., il n'y a aucun indice concret (au sens de la jurisprudence citée au consid. 4a ci-dessus) indiquant que, sans invalidité, elle aurait cherché à augmenter ses revenus et opté pour une activité dépendante, contrairement à ce qu'elle soutient. C'est ainsi à juste titre que les premiers juges se sont fondés, pour déterminer le revenu sans invalidité, sur le revenu moyen réalisé par la recourante en 1995 et 1996.
c) La situation de la recourante se distingue de celle du négociant visé par l'arrêt du 15 octobre 1991 (RCC 1992 p. 96 sv consid. 4), en ce sens que l'assuré en question s'était contenté d'un gain modeste, uniquement parce ce qu'il puisait dans sa fortune personnelle pour compléter ses revenus. Cette situation a basculé lorsqu'il est tombé en faillite. Compte tenu de cette circonstance, notamment, la cour de céans a retenu qu'en l'absence d'invalidité, l'assuré ne se serait pas contenté d'un salaire modeste.
En l'espèce, la fortune de la recourante n'a pas subi pareille diminution. Au contraire, ses déclarations d'impôts font apparaître une augmentation de sa fortune nette de 55 637 fr., en 1993, à 105 000 fr. en 1996, soit l'année précédant le début de son incapacité totale de travail. C'est donc, de son plein gré, et indépendamment de l'état de sa fortune que la recourante s'est contentée d'un salaire modeste de 1991 à 1996.
d) Il apparaît dès lors, que le revenu réalisé par la recourante depuis le 1er février 1999 (1320 fr. par mois) est supérieur au revenu moyen des deux dernières années d'exploitation, soit 1995 et 1996 (5774 fr.). On aboutirait à la même constatation si l'on prenait en considération le revenu moyen réalisé par l'intéressée de 1991 à 1996 (4632 fr.). Partant, ne subissant pas d'incapacité de gain, la recourante n'a pas droit à une rente d'invalidité.
Le recours est mal fondé.
5.- La recourante sollicite le bénéfice de l'assistance judiciaire pour la procédure fédérale. Les premiers juges avaient refusé cette aide, par jugement séparé du 23 novembre 2000, au motif qu'elle dispose d'un immeuble d'une valeur officielle de 409 480 fr. et qu'en dépit de dettes hypothécaires s'élevant à 260 000 fr., elle pouvait encore contracter un emprunt sur son immeuble. La recourante fait valoir, à raison, qu'on en saurait exiger d'elle qu'elle entame sa fortune immobilière en sollicitant un prêt garanti par l'immeuble, ses revenus totaux nets (1368 fr. x 13 = 17 784 fr.) ne permettent pas - compte tenu de ses autres charges mensuelles de 810 fr. - de supporter les intérêts hypothécaires actuels (15 762 fr., selon l'attestation du 11 janvier 2001 de la Banque Raffeisen). On doit retenir que dans ces circonstances, la recourante n'est plus en mesure d'obtenir des crédits supplémentaires (<ref-ruling> consid. 5a et les références).
Partant, on peut admettre l'état d'indigence allégué. Le fait qu'une aide sociale de 1000 fr. par mois lui a été octroyée pour la période du 1er juillet 1999 au 1er août 2000, ne change rien à cette appréciation. En effet, cette aide - qui n'a été reçue que durant sept mois, sur les douze mois déterminants - est remboursable.
Par ailleurs, les conclusions n'étaient pas d'emblée vouées à l'échec et l'assistance d'un avocat était justifiée par la relative complexité des problèmes juridiques qui se posaient en l'espèce.
S'agissant d'un litige qui concerne l'octroi ou le refus de prestations d'assurance, la procédure est gratuite (art. 134 OJ). Dans cette mesure, la requête de la recourante tendant à l'octroi de l'assistance judiciaire gratuite est sans objet. En revanche, elle est bien fondée dans la mesure où elle tend à la prise en charge des honoraires de son avocat (art. 152 al. 2 OJ).
La recourante est toutefois rendue attentive au fait qu'elle devra rembourser la caisse du tribunal si elle devient ultérieurement en mesure de la faire (art. 152 al. 3 OJ).

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est rejeté.
II. Il n'est pas perçu de frais de justice.
III. L'assistance judiciaire est accordée à la recourante.
Les honoraires (y compris la taxe à la valeur ajoutée)
de Me Jean-Patrick Gigandet, avocat d'office, sont
fixés à 2500 fr. et seront supportés par la caisse du
tribunal.
IV. Le présent arrêt sera communiqué aux parties, au Tribunal cantonal du canton du Jura, Cour des assurances sociales, et à l'Office fédéral des assurances
sociales.
Lucerne, le 31 juillet 2001
Au nom du
Tribunal fédéral des assurances
Le Président de la IIe Chambre :
La Greffière :