Faits :
A.
Le 4 janvier 2021, A._ a recouru auprès de la Cour de droit public du Tribunal cantonal de la République et canton de Neuchâtel (ci-après: le Tribunal cantonal) contre la décision du 13 novembre 2020 du Département de l'éducation et de la famille, devenu le Département de la formation, de la digitalisation et des sports le 25 mai 2021 (ci-après: le Département), qui a confirmé son renvoi de l'Université de Neuchâtel pour fraude. Par courrier du 5 janvier 2021, notifié le 13 janvier 2021, le Tribunal cantonal a invité A._ à verser une avance de frais de 880 fr. dans les trente jours, en l'avertissant qu'à défaut de paiement dans ce délai, le recours serait déclaré irrecevable, avec suite de frais. Par courrier non daté et réceptionné par le Tribunal cantonal le 12 février 2021, soit le dernier jour du délai pour verser l'avance de frais, A._ a sollicité "une copie de la facture pour le financement du recours".
B.
Par décision du 16 mars 2021, la Présidente de la Cour de droit public du Tribunal cantonal a déclaré le recours de A._ irrecevable, faute de paiement de l'avance de frais dans le délai imparti.
C.
A._ forme un "recours" au Tribunal fédéral contre cette décision. Outre l'octroi de l'effet suspensif et de l'assistance judiciaire, elle conclut, sous suite de frais, principalement, à l'annulation de la décision d'irrecevabilité du 19 (recte: 16) mars 2021, à ce qu'un délai de 30 jours dès réception de l'arrêt du Tribunal fédéral lui soit imparti pour s'acquitter de l'avance de frais auprès du Tribunal cantonal et à ce qu'un "délai de grâce" lui soit octroyé pour procéder au paiement. Subsidiairement, elle conclut à la restitution du délai pour faute légère.
Le Rectorat de l'Université de Neuchâtel, le Département et le Tribunal cantonal se réfèrent aux considérants de la décision attaquée et concluent au rejet du recours. Invitée à déposer des observations, la recourante ne s'est pas déterminée dans le délai imparti, bien que celui-ci ait été prolongé à sa demande. Dans une écriture spontanée reçue six semaines après l'échéance dudit délai, la recourante a indiqué persister dans ses conclusions.
Par ordonnance du 26 mai 2021, le Président de la IIe Cour de droit public a rejeté la demande d'effet suspensif. Par ordonnances successives des 14 juin 2021 et 7 juillet 2021, les demandes de reconsidération de ladite ordonnance ont été rejetées. Le 26 mai 2021, le Tribunal fédéral a par ailleurs renoncé provisoirement à l'avance de frais, précisant qu'il serait statué ultérieurement sur la demande d'assistance judiciaire.

Considérant en droit :
1.
Le Tribunal fédéral examine d'office sa compétence (<ref-law>). Il contrôle donc librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1).
1.1. La recourante n'a pas indiqué par quelle voie de recours elle procède auprès du Tribunal fédéral. Toutefois, cette omission ne saurait lui nuire si son recours remplit les exigences légales de la voie de droit qui lui est ouverte (cf. <ref-ruling> consid. 1.1).
1.2. L'auteur d'un recours déclaré irrecevable pour non-paiement de l'avance de frais dans le délai imparti est habilité à contester l'arrêt d'irrecevabilité par un recours au Tribunal fédéral lorsque l'arrêt au fond de l'autorité intimée aurait pu être déféré à cette autorité (cf. arrêt 2C_523/2019 du 12 novembre 2019 consid. 1.1; cf. aussi <ref-ruling> consid. 3.2), ce qu'il convient d'examiner en l'espèce. La présente cause relève au fond du droit public (<ref-law>) et la décision attaquée est une décision finale (<ref-law>) rendue par un tribunal supérieur statuant en dernière instance cantonale (art. 86 al. 1 let. d et al. 2 LTF). Le recours en matière de droit public est donc envisageable sous réserve de l'<ref-law>.
1.3. En vertu de l'art. 83 let. t LTF, la voie du recours en matière de droit public n'est pas ouverte à l'encontre des décisions qui concernent le résultat d'examens ou d'autres évaluations des capacités, notamment en matière de scolarité obligatoire, de formation ultérieure ou d'exercice d'une profession (cf. <ref-ruling> consid. 1.1; <ref-ruling> consid. 1; arrêt 2C_113/2019 du 6 mai 2019 consid. 1).
En l'espèce, la décision attaquée prononce l'irrecevabilité du recours déposé par A._ contre la décision du Département confirmant son renvoi de l'Université de Neuchâtel pour fraude. Ce renvoi ne résulte ainsi pas d'une évaluation matérielle d'examens ou des capacités de la recourante, mais sanctionne disciplinairement un comportement considéré comme malhonnête. Partant, un arrêt au fond du Tribunal cantonal ne tomberait pas sous le coup de l'exception prévue à l'art. 83 let. t LTF, avec pour conséquence que la voie du recours en matière de droit public est ouverte (cf. arrêts 2C_279/2019 du 24 septembre 2019 consid. 1; 2C_306/2012 du 18 juillet 2012 consid. 1.2).
1.4. Le recours a en outre été interjeté en temps utile (<ref-law>) et déposé dans les formes requises (<ref-law>) par la destinataire de la décision attaquée, qui a la qualité pour recourir (cf. <ref-law>). Il est donc en principe recevable sous réserve de ce qui suit.
1.5. La conclusion de la recourante sollicitant du Tribunal fédéral une restitution de délai pour faute légère pour pouvoir payer l'avance de frais relative à son recours devant le Tribunal cantonal est irrecevable. En effet, il convient de rappeler que devant le Tribunal fédéral, la recourante ne peut pas prendre de conclusions allant au-delà de l'objet du litige, tel qu'il était devant le Tribunal cantonal (cf. <ref-ruling> consid. 4.4.2; <ref-ruling> consid. 3.4.2 et 3.4.3). Or, la présente procédure porte exclusivement sur la décision d'irrecevabilité du Tribunal cantonal du 16 mars 2021.
2.
2.1. Pour statuer, le Tribunal fédéral se fonde sur les faits constatés par l'autorité précédente (cf. <ref-law>), sous réserve des situations visées à l'<ref-law>. En vertu de l'<ref-law>, le recours ne peut critiquer les constatations de fait que si les faits ont été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire - ou en violation du droit au sens de l'<ref-law>, et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-ruling> consid. 6; <ref-ruling> consid. 1.6), ce qu'il appartient à la partie recourante de démontrer (<ref-law>; cf. <ref-ruling> consid. 1.3.1). Les faits et les critiques invoqués de manière appellatoire sont irrecevables (<ref-ruling> consid. 1.3; <ref-ruling> consid. 2.4), le Tribunal fédéral étant juge du droit et non pas une instance d'appel (cf. arrêts 2C_85/2021 du 21 mai 2021 consid. 3.1; 2C_814/2020 du 18 mars 2021 consid. 2.2; 2C_922/2018 du 13 mai 2019 consid. 3).
En l'espèce, la recourante présente, sous la partie "Faits" de son recours, sa propre version des événements, avec offres de preuve, comme elle le ferait devant une instance d'appel. En tant que les faits ainsi allégués ne sont pas constatés dans l'arrêt attaqué et que la recourante n'expose pas en quoi les conditions qui viennent d'être rappelées sont remplies, il n'en sera pas tenu compte. Pour les mêmes raisons, les faits invoqués à l'appui du raisonnement juridique de la recourante, mais qui ne sont pas constatés dans l'arrêt attaqué, ne seront pas pris en considération.
2.2. Le Tribunal fédéral applique le droit d'office (<ref-law>). Conformément à l'<ref-law> toutefois, il ne connaît de la violation des droits fondamentaux, ainsi que de celle de dispositions de droit cantonal et intercantonal que si ce grief a été invoqué et motivé par la partie recourante, c'est-à-dire s'il a été expressément soulevé et exposé de façon claire et détaillée (ATF <ref-ruling> consid. 2.4).
2.3. Sous réserve des cas visés à l'art. 95 let. c-e LTF, la violation du droit cantonal en tant que tel ne peut pas être invoquée devant le Tribunal fédéral. Il est néanmoins possible de faire valoir que son application consacre une violation du droit fédéral, comme la protection contre l'arbitraire au sens de l'art. 9 Cst. ou la garantie d'autres droits constitutionnels (<ref-ruling> consid. 6.1; <ref-ruling> consid. 3.4). Le Tribunal fédéral n'examine cependant de tels griefs que s'ils sont formulés de manière conforme aux exigences de l'<ref-law>.
3.
Le litige porte sur le point de savoir si le Tribunal cantonal a violé le droit en déclarant irrecevable le recours déposé devant lui au motif que la recourante n'avait pas procédé au versement de l'avance de frais requise dans le délai imparti dans son courrier du 5 janvier 2021, alors que ce courrier l'avertissait qu'en pareille hypothèse, son recours serait déclaré irrecevable.
Les juges précédents ont considéré, en substance, que le courrier de la recourante, non daté et réceptionné le dernier jour du délai pour verser l'avance de frais, par lequel elle sollicitait, en termes laconiques et sans autre justification, "une copie de la facture pour le financement du recours" ne demandait ni que le délai soit prolongé ni que l'assistance judiciaire lui soit accordée. En effet, la recourante n'y avait pas formulé de demande de restitution de délai, respectivement n'avait pas allégué être dans l'impossibilité de payer en raison de la perte de la demande d'avance de frais ou du bulletin de versement, ni fait valoir qu'elle n'aurait jamais reçu ces documents, ni avancé tout autre motif justifiant les raisons pour lesquelles l'avance de frais ne pourrait pas être payée à temps. Aucun versement n'étant ainsi parvenu dans le délai imparti, le recours a été déclaré irrecevable.
4.
La recourante estime tout d'abord que la décision du Tribunal cantonal relève du formalisme excessif. Elle estime avoir agi dans les temps en faisant parvenir sa demande de "copie de la facture pour le financement du recours" dans le délai imparti pour s'acquitter de l'avance de frais et en sollicitant l'assistance judiciaire six jours après. Elle argumente également qu'il appartenait au Tribunal cantonal de lui demander des précisions sur son courrier et de l'avertir clairement que si le délai n'était pas respecté, il déclarerait le recours irrecevable, ce d'autant plus qu'elle n'était pas représentée par un mandataire professionnel. Enfin, elle soutient que le délai de paiement est un délai prétorien et qu'il n'y a aucune raison de faire preuve d'un tel formalisme dans son application.
4.1. Le formalisme excessif est un aspect particulier du déni de justice prohibé par l'art. 29 al. 1 Cst. Il est réalisé lorsque la stricte application des règles de procédure ne se justifie par aucun intérêt digne de protection, devient une fin en soi et empêche ou complique de manière insoutenable la réalisation du droit matériel (<ref-ruling> consid. 1.3.2; <ref-ruling> consid. 2.4.2; <ref-ruling> consid. 2.1).
Selon la jurisprudence, il n'y a pas de formalisme excessif à refuser d'entrer en matière sur un recours lorsque, conformément au droit de procédure applicable, la recevabilité de celui-ci est subordonnée au versement d'une avance de frais dans un délai déterminé et que le montant requis n'a pas été versé dans ce délai. Il faut toutefois que l'auteur du recours ait été averti de façon appropriée du montant à verser, du délai imparti pour le paiement et des conséquences de l'inobservation de ce délai (<ref-ruling> consid. 3.3; arrêt 2C_54/2020 du 4 février 2020 consid. 8.2). Le Tribunal fédéral l'a récemment rappelé dans une affaire neuchâteloise dans laquelle le Tribunal cantonal avait également déclaré le recours irrecevable faute de paiement de l'avance de frais dans le délai imparti (cf. arrêt 2C_985/2019 du 26 mai 2020 consid. 6.6).
4.2. En l'espèce, il ressort des faits constatés dans l'arrêt attaqué que la recourante a été dûment invitée, par pli recommandé du 5 janvier 2021 notifié le 13 janvier 2021, à procéder au paiement de l'avance de frais dans un délai de trente jours, sous peine d'irrecevabilité de son recours. Elle a donc été clairement et expressément avertie du montant à verser, du délai imparti et des conséquences de l'inobservation de ce délai, et prétendre l'inverse relève de la témérité.
En ce que la recourante soutient avoir agi dans les temps en sollicitant du Tribunal cantonal, par courrier non daté réceptionné le 12 février 2021 - soit le dernier jour du délai - une "copie de la facture pour le financement du recours", elle perd de vue que le caractère tardif de sa demande rendait impossible pour ledit Tribunal de lui adresser une nouvelle facture dans un délai lui permettant de s'acquitter de l'avance de frais en temps utile. Or, il lui incombait de prendre les dispositions nécessaires pour que le paiement soit effectué dans le délai imparti (cf. 2C_107/2019 du 27 mai 2019 consid 6.3; 2C_734/2012 du 25 mars 2013 consid. 3.4.2), de sorte que les conséquences du caractère tardif de sa demande ne sauraient être imputées au Tribunal cantonal. C'est également en vain que la recourante allègue qu'il appartenait au Tribunal cantonal de lui dire clairement que sa demande ne serait pas prise en considération et que son recours serait déclaré irrecevable faute de paiement dans le délai. En effet, le courrier du 5 janvier 2021 était explicite sur ce point, y compris pour une personne ne jouissant pas de connaissances juridiques spécifiques et non représentée. Si la recourante entendait demander l'assistance judiciaire, il lui appartenait de le faire dès la réception de la demande d'avance de frais et non six jours après son expiration. En n'y donnant pas suite, le Tribunal cantonal ne saurait se voir reprocher d'être tombé dans le formalisme excessif ou d'avoir commis un déni de justice. Enfin, contrairement à ce que soutient la recourante, le fait que le délai pour s'acquitter de l'avance de frais soit un délai prétorien n'est pas non plus pertinent, la jurisprudence sur le formalisme excessif s'appliquant également aux délais fixés par les autorités (cf. <ref-ruling> consid. 3.3; arrêt 2C_54/2020 du 4 février 2020 consid. 8). Son grief est partant rejeté.
5.
La recourante se plaint également d'une violation du principe de la légalité et de l'interdiction de l'arbitraire en relation avec l'art. 20 al. 1 de la loi cantonale neuchâteloise sur la procédure et la juridiction administratives du 27 juin 1979 (LPJA; RS/NE 152.130). Selon elle, cette disposition renvoie clairement aux dispositions du Code de procédure civile (CPC), y compris à l'<ref-law> qui prévoit l'octroi d'un délai supplémentaire pour remédier à un défaut avant qu'une irrecevabilité ne soit prononcée. En refusant d'appliquer l'<ref-law>, le Tribunal cantonal aurait ainsi violé le principe de la légalité et interprété l'art. 20 al. 1 LPJA de façon insoutenable. A cet égard, elle qualifie l'arrêt 2C_985/2019 du 26 mai 2020 du Tribunal fédéral avalisant la pratique du Tribunal cantonal de "pas évident et douteux".
5.1. La procédure administrative devant les autorités cantonales n'est pas unifiée. L'exigence de l'avance de frais et les conséquences juridiques en cas de non-paiement relèvent du droit de procédure. Par conséquent, les cantons restent libres, dans le respect des garanties constitutionnelles, d'organiser cette matière à leur guise (arrêts 2C_985/2019 du 26 mai 2020 consid. 6.1; 2C_1019/2019 du 12 décembre 2019 consid. 7.3 et les références).
Par ailleurs, si du droit fédéral vient à s'appliquer dans le cadre d'une procédure administrative cantonale, c'est en tant que droit cantonal supplétif (<ref-ruling> consid. 4.2). Dans un tel cas de figure, le Tribunal fédéral ne peut intervenir que si l'autorité précédente a versé dans l'arbitraire ou enfreint d'autres droits constitutionnels et pour autant qu'un tel grief ait été allégué conformément à l'<ref-law> (<ref-ruling> consid. 4.2; <ref-ruling> consid. 2.3).
5.2. Appelé à revoir l'application faite d'une norme cantonale sous l'angle de l'arbitraire, le Tribunal fédéral ne s'écarte de la solution retenue en dernière instance cantonale que si elle est manifestement insoutenable, méconnaît gravement une norme ou un principe juridique clair et indiscuté ou si elle heurte de manière choquante le sentiment de la justice ou de l'équité. Il ne suffit pas que la motivation de la décision soit insoutenable; encore faut-il qu'elle soit arbitraire dans son résultat (<ref-ruling> consid. 2.2.2; cf. aussi <ref-ruling> consid. 3.1).
5.3. En l'espèce, la question de l'applicabilité de l'<ref-law> par renvoi de l'art. 20 al. 1 LPJA a déjà été traitée par le Tribunal fédéral. Le Tribunal fédéral a ainsi constaté qu'il n'était pas arbitraire de défendre une interprétation restrictive de l'art. 20 al. 1 LPJA, dès lors que le droit cantonal neuchâtelois contenait à l'art. 47 al. 5 LPJA une règle spéciale qui prévoyait la sanction d'irrecevabilité en cas de versement tardif de l'avance de frais en procédure de recours (cf. arrêt 2C_985/2019 du 26 mai 2020 consid. 6.6; cf. aussi déjà l'arrêt 2D_32/2015 du 24 septembre 2015 consid. 4.2).
Or, on se trouve dans le même cas de figure en l'espèce, car le courrier du Tribunal cantonal sollicitant le paiement de l'avance de frais indique, en citant expressément l'art. 47 al. 5 LPJA, que le recours sera déclaré irrecevable faute de paiement de l'avance de frais dans le délai. Par conséquent, en refusant l'octroi d'un délai supplémentaire à la recourante et en prononçant l'irrecevabilité de son recours, le Tribunal cantonal n'a pas procédé à une interprétation arbitraire du droit cantonal.
Au surplus, la recourante qualifie de "douteuse et pas évidente" la jurisprudence du Tribunal fédéral, mais sans expliquer en quoi les conditions d'un changement de jurisprudence seraient remplies (sur les conditions d'un changement de jurisprudence, cf. <ref-ruling> consid. 5.3.2; <ref-ruling> consid. 4.4 et les références citées). Le Tribunal fédéral n'en discerne du reste aucune.
6.
La recourante soutient également que le Tribunal cantonal a violé le principe de la bonne foi. Elle fait valoir que, dans une précédente procédure devant la Commission de recours en matière d'examens de l'Université de Neuchâtel (ci-après: la Commission de recours), ladite Commission lui aurait fixé d'office un délai supplémentaire pour s'acquitter de l'avance de frais en application de l'<ref-law>. Dès lors, elle ne pouvait imaginer, de bonne foi, que cette disposition ne serait pas appliquée par le Tribunal cantonal dans le cas d'espèce.
6.1. Ancré à l'art. 9 Cst., et valant pour l'ensemble de l'activité étatique, le principe de la bonne foi confère au citoyen, à certaines conditions, le droit d'exiger des autorités qu'elles se conforment aux promesses ou assurances précises qu'elles lui ont faites et ne trompent pas la confiance qu'il a légitimement placée dans ces promesses et assurances. Parmi les conditions, cumulatives, fixées par la jurisprudence figure celle de l'intervention de l'autorité dans une situation concrète à l'égard de personnes déterminées (cf. <ref-ruling> consid. 6.2; <ref-ruling> consid. 3.6.2; <ref-ruling> consid. 6.1).
6.2. En l'espèce, il ressort des constatations cantonales que la recourante n'a jamais reçu de promesses, de garanties ou de renseignements personnels de la part du Tribunal cantonal l'assurant explicitement qu'en dépit du courrier du 5 janvier 2021 l'informant que son recours sera déclaré irrecevable faute de paiement de l'avance de frais dans le délai imparti, un délai supplémentaire lui serait néanmoins octroyé le cas échéant. Au demeurant, elle ne saurait déduire de la pratique alléguée de la Commission de recours un quelconque droit à la protection de la bonne foi, dans la mesure où ladite Commission est une autorité distincte et indépendante du Tribunal cantonal. Les conditions de protection de la bonne foi ne sont donc pas remplies.
7.
La recourante invoque enfin une violation du principe de la proportionnalité. Selon elle, la sanction disciplinaire à l'origine de la procédure remonte à 2017 et l'empêcherait d'acquérir une formation secondaire.
Cette critique porte sur le fond du litige et dépasse l'objet de la présente procédure, qui se limite à la décision d'irrecevabilité du Tribunal cantonal. Il n'y a pas lieu d'y donner suite.
8.
Au regard de ce qui précède, le recours est rejeté, dans la mesure où il est recevable.
9.
La recourante a demandé le bénéfice de l'assistance judiciaire pour la procédure devant le Tribunal fédéral. La cause paraissant d'emblée dépourvue de chances de succès, cette requête doit être rejetée (<ref-law>). Au vu de l'issue du recours, les frais judiciaires seront mis à la charge de la recourante mais, compte tenu des documents fournis, ils seront réduits (art. 65 al. 2 et 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté, dans la mesure où il est recevable.
2.
La demande d'assistance judiciaire est rejetée.
3.
Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge de la recourante.
4.
Le présent arrêt est communiqué à la recourante, au Département de la formation, de la digitalisation et des sports, au Rectorat de l'Université de Neuchâtel et au Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public.
Lausanne, le 28 septembre 2021
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Seiler
La Greffière : Colella