Faits :
A.
Le 23 juillet 2019, A._, ressortissante kosovare née en 1958, a déposé auprès de l'Office cantonal de la population et des migrations du canton de Genève (ci-après: l'Office cantonal) une demande d'autorisation de séjour pour regroupement familial. Le 28 novembre 2019, l'intéressée a sollicité une seconde fois l'octroi d'une autorisation de séjour.
Le 2 octobre 2020, l'Office cantonal a informé A._ de son intention de rejeter sa demande et lui a imparti un délai de 30 jours pour se déterminer.
B.
Le 20 octobre 2020, A._ a requis l'assistance juridique en vue de formuler ses observations auprès de l'Office cantonal.
Par décision du 21 octobre 2020, la Vice-présidente du Tribunal de première instance du canton de Genève (ci-après: la Vice-présidente du Tribunal de première instance) a rejeté la requête d'assistance juridique précitée, en considérant que l'on pouvait raisonnablement attendre de l'intéressée qu'elle rédige elle-même les observations nécessaires à la défense de ses intérêts.
Par décision du 2 juin 2021, le Vice-président de la Cour de justice du canton de Genève (ci-après: le Vice-président de la Cour de justice) a admis le recours formé par A._ contre le refus de lui octroyer l'assistance juridique prononcé le 21 octobre 2020. Cette autorité a retenu, en substance, que la procédure devant l'Office cantonal présentait des difficultés particulières, notamment en droit, que A._ n'apparaissait pas à même de résoudre sans l'aide d'un avocat. Le Vice-président de la Cour de justice a donc annulé la décision du 21 octobre 2020 et renvoyé la cause à la Vice-présidente du Tribunal de première instance "pour instruction et nouvelle décision, après examen des chances de succès et de la condition d'indigence". Aucune indemnité de dépens n'a été allouée à A._.
C.
Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral (implicitement) de réformer la décision du Vice-président de la Cour de justice du 2 juin 2021 en ce sens que des dépens à hauteur de 441,03 fr. lui sont octroyés pour la procédure devant cette autorité et de confirmer pour le surplus la décision entreprise. L'intéressée sollicite en outre le bénéfice de l'assistance judiciaire pour la procédure devant le Tribunal fédéral.
L'autorité précédente, sans conclure explicitement à l'admission du recours, a indiqué que, s'agissant du refus d'octroyer des dépens à A._, la décision entreprise ne correspondait pas à sa pratique actuelle. La Vice-présidente du Tribunal de première instance n'a pas formulé d'observations.

Considérant en droit :
1.
Le Tribunal fédéral examine d'office sa compétence (<ref-law>) et contrôle librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1).
1.1. La voie de recours ouverte sur les questions principales devant le Tribunal fédéral l'est en principe également sur les questions accessoires. Il en va notamment ainsi de celles qui portent sur les frais et les dépens (<ref-ruling> consid. 1.1; arrêt 2C_1054/2017 du 15 mai 2018 consid. 1.1). En l'espèce, la décision attaquée concerne l'assistance judiciaire requise par la recourante dans le cadre d'un litige relevant du droit des étrangers, soit une cause de droit public (<ref-law>), et ne tombe pas sous le coup des exceptions de l'<ref-law>. La décision entreprise aurait donc pu faire l'objet, au fond, d'un recours en matière de droit public. C'est partant cette voie de droit qui entre en considération également sur la question des dépens.
1.2. Le recours en matière de droit public est recevable contre les décisions qui mettent fin à la procédure (<ref-law>) ou contre les décisions partielles (<ref-law>). En revanche, en vertu de l'<ref-law>, les décisions incidentes notifiées séparément qui ne portent pas sur la compétence ou sur une demande de récusation ne peuvent faire l'objet d'un recours en matière de droit public que si elles peuvent causer un préjudice irréparable (let. a), ou si l'admission du recours peut conduire immédiatement à une décision finale qui permet d'éviter une procédure probatoire longue et coûteuse (let. b). A moins que ces conditions ne sautent aux yeux, il appartient au recourant d'en démontrer la réalisation sous peine d'irrecevabilité (<ref-ruling> consid. 2.5).
En l'occurrence, en tant qu'elle renvoie la cause à la Vice-présidente du Tribunal de première instance "pour instruction et nouvelle décision" sur la requête d'assistance judiciaire formulée par la recourante, la décision attaquée ne met pas fin à la procédure et constitue ainsi une décision incidente (cf. arrêt 2C_44/2018 du 31 janvier 2020 consid. 1.2, non publié in <ref-ruling>). Lorsque l'autorité de recours, comme en l'espèce, statue simultanément sur les dépens de la procédure suivie devant elle, ce prononcé accessoire est également une décision incidente, alors même qu'il porte sur des prétentions qui ne seront plus en cause par la suite (<ref-ruling> consid. 1.2; arrêt 2C_1054/2017 du 15 mai 2018 consid. 1.2).
1.3. Le recours n'est donc recevable que si l'une des hypothèses de l'<ref-law> est réalisée.
1.3.1. La condition prévue par l'<ref-law> doit être d'emblée exclue, car on ne voit pas en quoi l'admission du recours pourrait conduire immédiatement à une décision finale permettant d'éviter une procédure probatoire longue et coûteuse.
1.3.2. Reste à examiner l'exigence du préjudice irréparable de l'<ref-law>. A ce sujet, force est de constater que la recourante ne démontre pas, ni même ne prétend, que cette condition de recevabilité serait remplie en l'espèce, ce qui conduit déjà à l'irrecevabilité de son recours. En outre, selon la jurisprudence, le prononcé accessoire sur les frais et dépens contenu dans une décision incidente n'est de toute manière pas de nature à causer un préjudice irréparable (<ref-ruling> consid. 1.3; <ref-ruling> consid. 1.2.2; arrêt 2C_1054/2017 du 15 mai 2018 consid. 1.4.2; cf. BERNARD CORBOZ, in Commentaire de la LTF, 2e éd., 2014, n. 12a ad <ref-law> p. 1068).
2.
Dans ces conditions, le présent recours immédiat contre le prononcé sur les dépens contenu dans la décision incidente rendue par l'instance précédente ne peut qu'être déclaré irrecevable.
La recourante a sollicité sa mise au bénéfice de l'assistance judiciaire. La cause paraissant d'emblée dépourvue de chances de succès, cette requête doit être rejetée (<ref-law>). Les frais seront donc mis à la charge de la recourante, qui succombe (cf. <ref-law>). Il n'y a pas lieu d'allouer des dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est irrecevable.
2.
La demande d'assistance judiciaire est rejetée.
3.
Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge de la recourante.
4.
Le présent arrêt est communiqué à la mandataire de la recourante, à la Vice-Présidente du Tribunal de première instance de la République et canton de Genève et au Vice-président de la Cour de justice de la République et canton de Genève.
Lausanne, le 21 octobre 2021
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Seiler
Le Greffier : Ermotti