Faits :
A.
Le 17 mai 2021, le Tribunal régional Jura bernois-Seeland a prononcé, à concurrence de 3'973 fr. 16, la mainlevée définitive de l'opposition formée par A._ au commandement de payer qui lui a été notifié à l'instance de l'Intendance des impôts du canton de Berne.
Le même jour, le Tribunal régional Jura bernois-Seeland a également prononcé, à concurrence de 185 fr. 70, la mainlevée définitive de l'opposition formée par A._ au commandement de payer qui lui a été notifié à l'instance de l'Intendance des impôts du canton de Berne.
Le 11 juin 2021, A._ a recouru à l'encontre des deux décisions précitées, se plaignant notamment d'un déni de justice.
Statuant par décision du 29 juin 2021, la 2e Chambre civile de la Cour suprême du canton de Berne a joint les deux causes et rejeté, dans la mesure de sa recevabilité, le recours.
En substance, la 2e Chambre civile de la Cour suprême du canton de Berne a retenu que le recours était tardif en tant qu'il concernait le fond. S'agissant de la dénonciation d'un déni de justice, l'autorité précédente a constaté, d'une part, qu'une décision de mainlevée avait été rendue, en sorte que la recourante ne disposait pas d'intérêt juridique à recourir, d'autre part, que le délai écoulé entre la dernière ordonnance d'instruction et la décision de mainlevée (deux mois) n'était nullement un cas de retard important et injustifié. Enfin, dans la mesure où la recourante reprochait l'absence de décision concernant la taxe d'exemption, la cour cantonale a relevé que la poursuivante n'avait pas requis la mainlevée pour ce poste, de sorte que l'autorité de première instance n'avait pas à statuer sur ce point.
B.
Par acte du 25 août 2021, A._ exerce un recours au Tribunal fédéral.
Invitée à verser une avance de frais de 2'000 fr. par ordonnance du 27 août 2021 du Président de la IIe Cour de droit civil du Tribunal fédéral, la recourante a requis, par lettre du 10 septembre 2021, le bénéfice de l'assistance judiciaire pour la procédure fédérale.
Des réponses n'ont pas été requises.

Considérant en droit :
1.
Le présent recours est dirigé en temps utile (art. 46 al. 1 let. b et 100 al. 1 LTF) contre une décision finale (art. 90 LTF; <ref-ruling> consid. 2 et la référence) prise par un tribunal supérieur statuant sur recours. La décision attaquée est en principe susceptible de recours en matière civile (art. 72 al. 2 let. a LTF). Toutefois, vu l'insuffisance de la valeur litigieuse (art. 74 al. 1 let. b LTF) et l'absence de question juridique de principe (art. 74 al. 2 let. a LTF), le recours constitutionnel subsidiaire est seul ouvert en l'occurrence (art. 113, 114 et 117 LTF). La recourante, qui a succombé devant la juridiction précédente, possède un intérêt juridique à l'annulation ou la modification de la décision attaquée (art. 115 LTF).
2.
2.1. Le recours constitutionnel ne pouvant être formé que pour violation des droits constitutionnels (art. 116 LTF), le Tribunal fédéral ne corrige l'application des dispositions de droit matériel que si celle-ci est arbitraire au sens de l'art. 9 Cst. Tel est le cas lorsqu'elle viole gravement une norme ou un principe juridique clair et indiscuté, ou contredit de manière choquante le sentiment de la justice et de l'équité. Une motivation n'est pas arbitraire du seul fait qu'une autre solution que celle de l'autorité cantonale apparaît concevable ou même préférable (<ref-ruling> consid. 7.3; <ref-ruling> consid. 2.1). Pour être qualifiée d'arbitraire, la décision doit également être insoutenable dans son résultat (<ref-ruling> consid. 7.1, 170 consid. 7.3; <ref-ruling> consid. 4.3). Le Tribunal fédéral n'examine en outre que les griefs expressément soulevés et motivés de façon claire et détaillée par le recourant ("principe d'allégation"; art. 106 al. 2 et 117 LTF; <ref-ruling> consid. 1.5 et les références).
2.2. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 118 al. 1 LTF). Il ne peut rectifier ces constatations que si les faits ont été établis en violation de droits constitutionnels (art. 118 al. 2 LTF en relation avec l'art. 116 LTF), soit en particulier s'ils ont été établis de manière arbitraire (art. 9 Cst.), ce qui correspond à la notion de "manifestement inexacte" figurant à l'art. 105 al. 2 LTF (<ref-ruling> consid. 6.7; <ref-ruling> consid. 2.2 et la référence). La critique de l'état de fait retenu est soumise au principe strict de l'allégation (art. 106 al. 2 et 117 LTF; cf. supra consid. 2.1).
2.3. En conséquence, la partie intitulée "En faits" de l'acte de recours (p. 2-4) sera ignorée en tant que les faits qui y sont exposés s'écartent de ceux contenus dans l'arrêt attaqué et que la recourante n'invoque, ni a fortiori ne démontre, leur établissement arbitraire et que leur correction influerait sur le sort de la cause.
3.
Dans son mémoire, la recourante reproche à l'autorité précédente - de manière confuse et décousue - d'avoir jugé son recours tardif et dénonce une contradiction avec la constatation selon laquelle le recours pour déni de justice n'est soumis à aucun délai. Elle invoque les art. 29 al. 1 et 2 Cst. et 18 al. 2 LP, qu'elle cite in extenso. La recourante en conclut que la Cour suprême du canton de Berne a faussement refusé d'entrer en matière sur son mémoire de recours au motif que le délai de recours était échu et requiert par conséquent que son recours du 11 juin 2021 soit pris en considération par l'autorité précédente, nonobstant sa tardiveté, faisant valoir son droit d'être entendue.
Le grief tiré de la violation de l'art. 18 al. 2 LP est, dans le cadre d'un recours constitutionnel subsidiaire, d'emblée irrecevable (art. 116 LTF). Pour le surplus, le grief est mal fondé. La recourante se méprend manifestement sur la motivation de l'autorité précédente. Seul le recours au fond, soumis à un délai de recours de dix jours (art. 319 al. 1 et 2 CPC, en lien avec l'art. 251 let. a CPC) a été déclaré irrecevable pour cause de tardiveté. La cour cantonale est en revanche entrée en matière sur le recours pour déni de justice, mais l'a rejeté, estimant qu'en l'espèce, aucun déni de justice ne pouvait être reproché à l'autorité de première instance compte tenu de la reddition d'une décision de mainlevée et du délai raisonnable dans laquelle celle-ci a été rendue. La recourante, ayant ignoré la véritable motivation de l'autorité précédente, ne discute pas, ni a fortiori ne démontre, que cette argumentation serait contraire à la Constitution ou à l'un de ses droits fondamentaux. Autant que son grief est suffisamment motivé au regard des exigences minimales de motivation d'un tel grief (cf. supra consid. 2.1), la recourante se prévaut ainsi vainement des garanties fondamentales de procédure (art. 29 Cst.).
En définitive, le grief doit être rejeté dans la mesure où il est recevable.
4.
Vu ce qui précède, le recours est rejeté dans la mesure de sa recevabilité. Dès lors que le présent recours était d'emblée dénué de chances de succès, la requête d'assistance judiciaire pour la procédure fédérale déposée par la recourante ne saurait être agréée (art. 64 al. 1 LTF). Les frais judiciaires sont en conséquence mis à la charge de la recourante, qui succombe (art. 66 al. 3 LTF). Il n'y a pas lieu d'allouer de dépens (art. 68 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
La requête d'assistance judiciaire est rejetée.
3.
Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge de la recourante.
4.
Le présent arrêt est communiqué aux parties et à la 2e Chambre civile de la Cour suprême du canton de Berne.
Lausanne, le 22 septembre 2021
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président : Herrmann
La Greffière : Gauron-Carlin