Sachverhalt:
A.
Die 1976 geborene B._ arbeitete vom 18. Dezember 2001 bis zum 30. September 2002 als Mitarbeiterin Information und Sekretariat bei der Unternehmung C._ (Pensum 100 %) und vom 1. Januar 2003 bis zum 31. Dezember 2009 als Betreuerin bei der Stiftung D._ (Pensum 50-80 %). Aufgrund dieser Tätigkeiten war sie bei der Vorsorge E._ vorsorgeversichert. Sodann arbeitete B._ vom 4. Mai 2010 bis zum 31. Januar 2013 als Sachbearbeiterin bei der Stelle F._ (Pensum 60 %) und vom 1. Februar bis zum 31. Mai 2013 als Mitarbeiterin Sekretariat bei der Gemeinde G._ (Pensum 60 %). Im Rahmen dieser Anstellungen war sie bei der Pensionskasse A._ vorsorgeversichert. Die IV-Stelle Schwyz sprach B._ mit Wirkung ab dem 1. April 2012 eine halbe Invalidenrente zu (Invaliditätsgrad: 50 %; Verfügung vom 20. März 2014). Die Pensionskasse A._ (Schreiben vom 26. November 2013) und die Vorsorge E._ (Schreiben vom 12. Februar 2014 und vom 15. Oktober 2015) verneinten je den Anspruch auf Leistungen der beruflichen Vorsorge.
B.
B.a. B._ erhob am 19. Mai 2016 Klage beim Verwaltungsgericht des Kantons Glarus gegen beide Vorsorgeeinrichtungen mit dem Rechtsbegehren, die Vorsorge E._, eventuell die Pensionskasse A._, sei zu verpflichten, ihr rückwirkend eine Invalidenrente aus der obligatorischen und überobligatorischen beruflichen Vorsorge auszurichten, zuzüglich Verzugszinsen ab Klageerhebung. Das kantonale Gericht hiess die Klage gegen die Vorsorge E._ gut und verpflichtete diese, B._ ab dem 1. April 2012 eine halbe Invalidenrente zuzüglich Zins von 5 % ab dem 19. Mai 2016 zu bezahlen (Urteil vom 26. Oktober 2017). Aufgrund eines Erläuterungsbegehrens ergänzte das kantonale Gericht das Urteil vom 26. Oktober 2017 dahingehend, dass die Klage gegen die Pensionskasse A._ als gegenstandslos abgeschrieben wurde (Beschluss vom 6. November 2017).
Die Vorsorge E._ führte Beschwerde in öffentlich-rechtlichen Angelegenheiten und beantragte, das Urteil vom 26. Oktober 2017 sowie der Beschluss vom 6. November 2017 seien aufzuheben. Die Klage vom 19. Mai 2016 gegen die Vorsorge E._ sei abzuweisen. Mit Urteil 9C_856/2017 vom 7. September 2018 hiess das Bundesgericht die Beschwerde gut. Es hob das Urteil des kantonalen Gerichts vom 26. Oktober 2017 und den Beschluss vom 6. November 2017 auf und wies die Sache an die Vorinstanz zu neuer Entscheidung über die Klage zurück. Auf die Anschlussbeschwerde von B._ trat es nicht ein.
B.b. Mit Verfügung vom 17. September 2018 nahm das Verwaltungsgericht des Kantons Glarus das Verfahren wieder auf und gab B._ Gelegenheit, sich zu äussern. Diese beantragte am 13. Dezember 2018 die Sistierung des Verfahrens, bis rechtskräftig über ihren Rentenanspruch entschieden worden sei. Eventualiter sei festzustellen, dass die relevante bleibende Arbeitsunfähigkeit, die zur Invalidität geführt habe, am 1. Oktober 2012 und somit in dem Zeitpunkt eingetreten sei, als sie bei der Pensionskasse A._ vorsorgeversichert gewesen sei. Subeventualiter sei die Pensionskasse A._ zu verpflichten, B._ ab dem 1. Oktober 2016 eine Invalidenrente aus der obligatorischen und überobligatorischen beruflichen Vorsorge zuzüglich Verzugszinsen ab Klageerhebung auszurichten. Mit Verfügung vom 17. Dezember 2018 sistierte das kantonale Gericht das Verfahren bis zum Vorliegen eines rechtskräftigen Entscheids der Invalidenversicherung. Die IV-Stelle Schwyz sprach B._ ab 1. Oktober 2016 eine ganze Invalidenrente zu (Verfügung vom 13. Mai 2020).
Mit Urteil vom 20. Mai 2021 wies das Verwaltungsgericht die Klage gegen die Vorsorge E._ ab. Die Klage gegen die Pensionskasse A._ hiess es gut. Es verpflichtete diese, B._ ab 1. Oktober 2016 eine Invalidenrente (Invaliditätsgrad: 100 %) zuzüglich Zins zu 5 % seit 1. Oktober 2016 zu bezahlen. Zur beitragsmässigen Festsetzung der Invalidenrente überwies es die Sache an die Pensionskasse A._.
C.
Die Pensionskasse A._ beantragt mit Beschwerde in öffentlich-rechtlichen Angelegenheiten die Aufhebung des angefochtenen Urteils sowie die Abweisung der Klage gegen sie.

Erwägungen:
1.
1.1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 f. BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Dennoch prüft es - offensichtliche Fehler vorbehalten - nur die in seinem Verfahren gerügten Rechtsmängel (Art. 42 Abs. 1 f. BGG; <ref-ruling> E. 2.2.1). Es legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann ihre Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Verfahrensausgang entscheidend sein kann (Art. 97 Abs. 1 und Art. 105 Abs. 2 BGG).
1.2. Die vorinstanzlichen Feststellungen zum Gesundheitsschaden und zur Arbeitsfähigkeit sind, da tatsächlicher Natur, für das Bundesgericht grundsätzlich verbindlich. Tatfrage ist auch jene nach dem Zeitpunkt des Eintritts der Arbeitsunfähigkeit, deren Ursache zur Invalidität geführt hat (Art. 23 lit. a BVG). Gleiches gilt für die aufgrund einer konkreten Beweiswürdigung getroffene Feststellung des zeitlichen Konnexes. Frei überprüfbare Rechtsfrage ist dagegen, nach welchen Gesichtspunkten die Entscheidung über den Zeitpunkt des Eintritts einer massgebenden Arbeitsunfähigkeit zu erfolgen hat, und hinsichtlich des zeitlichen Zusammenhangs, ob die Beweiswürdigung unter Beachtung der rechtsprechungsgemäss relevanten Kriterien erfolgte (Urteil 9C_387/2019 vom 10. September 2019 E. 4.1 mit Hinweis).
2.
Das kantonale Gericht gab die gesetzlichen Bestimmungen zu den Invalidenleistungen der obligatorischen beruflichen Vorsorge (Art. 23 lit. a BVG) und zum Beginn und Ende der Versicherungspflicht (Art. 10 Abs. 1 und Abs. 2 lit. b BVG) korrekt wieder. Richtig sind auch die Ausführungen zur massgeblichen Einbusse an funktionellem Leistungsvermögen von mindestens 20 % (<ref-ruling> E. 4.4 mit weiteren Hinweisen) sowie zum sachlichen und zeitlichen Konnex zwischen einer allfälligen Leistungsunfähigkeit während des Vorsorgeverhältnisses und der späteren Invalidität (<ref-ruling> E. 4.4; <ref-ruling> E. 3.2). Darauf wird verwiesen.
3.
3.1. Ein bundesgerichtlicher Rückweisungsentscheid bindet sowohl die mit der Neubeurteilung befasste kantonale Instanz als auch das Bundesgericht selbst. Deswegen ist es den Gerichten, abgesehen von allenfalls zulässigen Noven, verwehrt, der Beurteilung des Rechtsstreits einen anderen als den bisherigen Sachverhalt zu unterstellen oder die Sache unter rechtlichen Gesichtspunkten zu prüfen, die im Rückweisungsentscheid ausdrücklich abgelehnt oder überhaupt nicht in Erwägung gezogen worden waren. Die Tragweite der Bindung an die erste Entscheidung ergibt sich aus der Begründung der Rückweisung (<ref-ruling> E. 5.3.3; <ref-ruling> E. 2; Urteil 9C_111/2021 vom 11. August 2021 E. 2.1; siehe auch JOHANNA DORMANN, in: Basler Kommentar, Bundesgerichtsgesetz, 3. Aufl. 2018, Rz. 18 zu Art. 107 BGG).
3.2. Das Bundesgericht stützte im Urteil 9C_856/2017 in E. 4.2 a.E. im Rahmen seiner Überprüfungsbefugnis die Feststellung der Vorinstanz, wonach die Beschwerdegegnerin zwischen September und Dezember 2002 mindestens 20 % arbeitsunfähig gewesen sei. In E. 4.3 des genannten Urteils erwog das Bundesgericht, es fehle jedoch für die Zeit vom 1. Januar 2003 bis 31. Dezember 2009 (sowie der einmonatigen Nachdeckungsfrist gemäss Art. 10 Abs. 3 BVG) an echtzeitlichen medizinischen Bestätigungen einer Arbeitsfähigkeit (recte: Arbeitsunfähigkeit). Ausserdem mangle es an Hinweisen dafür, dass eine Einbusse an funktionellem Leistungsvermögen arbeitsrechtlich in Erscheinung getreten wäre. Gemäss Urteil 9C_856/2017 verletzte die Vorinstanz Bundesrecht, indem sie festhielt, die Versicherte sei seit Oktober 2002 durchgehend mindestens 20 % in ihrer Arbeitsfähigkeit eingeschränkt gewesen und bis heute zu mindestens 50 % invalid. Das Bundesgericht verneinte in der Folge die zeitliche Konnexität und kam zum Schluss, dass die Vorsorge E._ für die bei der Beschwerdegegnerin eingetretenen Invalidität nicht leistungspflichtig sei. Da sich die Klage der Versicherten auch gegen die Pensionskasse A._ richtet, hat das Bundesgericht die Sache an die Vorinstanz zur neuen Entscheidung zurückgewiesen (E. 4.4).
4.
Das kantonale Gericht prüfte im Anschluss an diese Rückweisung den geltend gemachten vorsorgerechtlichen Anspruch gegenüber der Beschwerdeführerin betreffend den Zeitpunkt des Eintritts der invalidisierenden Arbeitsunfähigkeit frei und ohne Bindung an die Ausführungen der IV-Stelle Schwyz in der Verfügung vom 20. März 2014 (vgl. dazu <ref-ruling> E. 2.2). Es erkannte, dass eine Arbeitsunfähigkeit von mindestens 20 % während des Vorsorgeverhältnisses mit der Beschwerdeführerin eingetreten sei. Im Weiteren bejahte die Vorinstanz einen sachlichen Zusammenhang zwischen der gesundheitlichen Problematik ab Oktober 2012 und der späteren Invalidität. Ausserdem kam das kantonale Gericht zum Schluss, die Beschwerdegegnerin sei seit dem Eintritt der Arbeitsunfähigkeit im Oktober 2012 zu keinem Zeitpunkt mehr voll bzw. in einem Umfang von mehr als 80 % erwerbstätig gewesen, sodass die zeitliche Konnexität zwischen der Arbeitsunfähigkeit und der daraus resultierenden Invalidität nicht unterbrochen worden sei. Die Vorinstanz verpflichtete die Beschwerdeführerin zur Ausrichtung einer Invalidenrente (Invaliditätsgrad: 100 %) ab 1. Oktober 2016 zuzüglich Zins zu 5 % seit 1. Oktober 2016.
5.
5.1. Die Pensionskasse A._ bringt vor, aufgrund der Kritik des Bundesgerichts im Urteil 9C_856/2017, der Eintritt der relevanten Arbeitsunfähigkeit sei nicht genügend abgeklärt worden, habe die IV-Stelle Schwyz die Beschwerdegegnerin durch die Dres. med. H._ und I._, beides Fachärzte für Psychiatrie und Psychotherapie, begutachten lassen (Expertisen vom 19. Juli 2018 und vom 23. Dezember 2019). Diese beweiskräftigen Gutachten würden bestätigen, dass die Beschwerdegegnerin seit 2002 - und somit Jahre vor dem Versicherungsbeginn bei der Beschwerdeführerin - mindestens 20 % arbeitsunfähig sei und seither nie mehr eine Arbeitsfähigkeit von über 80 % erreicht habe.
Entgegen der Beschwerdeführerin kam das Bundesgericht im Entscheid vom 7. September 2018 nicht zum Schluss, dass der Sachverhalt ungenügend abgeklärt gewesen sei. Es erkannte, es fehle im Zeitraum vom 1. Januar 2003 bis 31. Dezember 2009 (sowie einmonatiger Nachdeckungsfrist gemäss Art. 10 Abs. 3 BVG) an echtzeitlichen medizinischen Bestätigungen einer Arbeitsfähigkeit (recte: Arbeitsunfähigkeit) sowie an jeglichen Hinweisen darauf, dass eine Einbusse an funktionellem Leistungsvermögen arbeitsrechtlich in Erscheinung getreten wäre (E. 4.3). Mit ihren Rügen kommt die Beschwerdeführerin auf genau diese Erwägungen zurück, die im vorliegenden Verfahren für die Vorinstanz wie auch für das Bundesgericht grundsätzlich verbindlich sind (E. 3). Es ist darauf hinzuweisen, dass die Pensionskasse A._ bereits im Verfahren 9C_856/2017 Partei war und es ihr damals offenstand, zu eben diesen Punkten Stellung zu nehmen. Dass es sich bei den genannten Expertisen, die nach dem Bundesgerichtsurteil vom 7. September 2018 entstanden sind, um zulässige Noven (E. 3.1) handeln soll, welche die sachverhaltliche Grundlage des Rückweisungsurteils zu erschüttern vermögen, macht die Beschwerdeführerin nicht geltend und ist auch nicht ersichtlich. Indem die Vorinstanz folglich die E. 4.3 des Bundesgerichts im Urteil 9C_856/2017, wonach im hier relevanten Zeitraum keine Einbusse an funktionellem Leistungsvermögen arbeitsrechtlich in Erscheinung getreten sei, im angefochtenen Urteil wiedergab, verfiel sie dabei weder in Willkür noch verletzte sie Art. 23 lit. a BVG.
Die Pensionskasse A._ bringt weiter vor, das Bundesgericht habe sich bei der Formulierung in E. 4.3 des Urteils 9C_856/2017, es sei keine Einbusse an funktionellem Leistungsvermögen arbeitsrechtlich in Erscheinung getreten, nur auf den verwerteten Teil der Arbeitsfähigkeit der Beschwerdegegnerin von 50 % bezogen. Diese Rüge zielt ins Leere. Denn rechtsprechungsgemäss ist eine Unterbrechung des zeitlichen Konnexes, die das Bundesgericht bejahte, dann anzunehmen, wenn während mehr als dreier Monate eine Arbeitsfähigkeit von über 80 % in einer angepassten Erwerbstätigkeit gegeben ist (<ref-ruling> E. 4.4).
5.2. Das kantonale Gericht kam nach umfassender Würdigung der Akten zum Schluss, dass die Arbeitsunfähigkeit der Beschwerdegegnerin von mindestens 20 % ab Anfang Oktober 2012 während des Versicherungsverhältnisses mit der Beschwerdeführerin aufgetreten sei. Die Beschwerdeführerin wirft der Vorinstanz mit Hinweis auf <ref-ruling> E. 1c und 120 V 112 E. 2b und 2c eine Bundesrechtsverletzung vor mit der Begründung, Art. 23 BVG beruhe darauf, dass einzig der erstmalige Eintritt einer relevanten Arbeitsunfähigkeit Invalidenleistungen aus beruflicher Vorsorge auslöse. Eine spätere Vergrösserung der Arbeits- oder Erwerbsunfähigkeit führe dagegen zu keiner Leistungspflicht. Wie bereits ausgeführt, fehlt ein zeitlicher Zusammenhang zwischen der Arbeitsunfähigkeit von mindestens 20 % zwischen September und Dezember 2002 und der später eingetretenen Invalidität, sodass das Bundesgericht bereits mit Urteil 9C_856/2017 erwog, die Vorsorge E._ habe keine Leistung zu erbringen. Die Pensionskasse A._ vermag folglich mit dem Hinweis auf die bundesgerichtliche Rechtsprechung, die im vorliegenden Fall nicht zur Anwendung gelangt, worauf auch bereits das kantonale Gericht hinwies, nichts zu ihren Gunsten abzuleiten. Damit bleibt es bei der vorinstanzlichen Feststellung, dass die relevante Arbeitsunfähigkeit während des Versicherungsverhältnisses mit der Beschwerdeführerin aufgetreten sei.
5.3. In Bezug auf die während der Dauer des Vorsorgeverhältnisses mit der Beschwerdeführerin eingetretene Arbeitsunfähigkeit und der späteren Invalidität stellte das kantonale Gericht fest, die Beschwerdegegnerin sei seit dem Eintritt ihrer Arbeitsunfähigkeit im Oktober 2012 nie mehr in einem Umfang von über 80 % erwerbstätig gewesen. Die zeitliche Konnexität zwischen der Arbeitsunfähigkeit und der daraus resultierenden Invalidität sei mithin nicht unterbrochen worden. Daran vermag die Rüge der Pensionskasse A._, die Beschwerdegegnerin sei nach dem Austritt bei ihr noch während zwei Jahren zu 50-60 % arbeitsfähig gewesen, im Lichte der Rechtsprechung (<ref-ruling> E. 4.4) nichts zu ändern.
6.
Die Erwägungen der Vorinstanz zur sachlichen Konnexität, zum Rentenbeginn, zum Invaliditätsgrad sowie zu den Verzugszinsen blieben letztinstanzlich unangefochten, weshalb sich Weiterungen erübrigen. Die Beschwerde ist unbegründet.
7.
Dem Ausgang des Verfahrens entsprechend hat die Beschwerdeführerin die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden der Beschwerdeführerin auferlegt.
3.
Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Glarus und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 5. November 2021
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Parrino
Die Gerichtsschreiberin: Huber