Sachverhalt:
A.
Die 1978 geborene A._ bezog mit Wirkung ab dem 1. Mai 2001 eine ganze Rente der Invalidenversicherung. Nachdem sie Mutter eines ersten Sohnes geworden war, hob die IV-Stelle Schwyz diese Rente mit Verfügung vom 18. Mai 2007 ( bestätigt durch den Entscheid des Verwaltungsgerichts des Kantons Schwyz vom 14. November 2007) auf. Am 9. Februar 2009 wurde A._ Mutter eines zweiten und am 14. November 2012 eines dritten Sohnes. Auf eine am 17. September 2012 eingegangene Neuanmeldung trat die IV-Stelle ein und tätigte medizinische Abklärungen, insbesondere holte sie beim Ärztlichen Begutachtungsinstitut (ABI), Basel, eine polydisziplinäre Expertise ein (Gutachten vom 11. Juni 2014). Daraufhin wies die IV-Stelle das Neuanmeldegesuch mit Verfügung vom 25. September 2014 ab.
Am 12. Dezember 2017 meldete sich A._ erneut bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle trat wiederum auf dieses Gesuch ein und tätigte medizinische Abklärungen, insbesondere holte sie bei Dr. med. B._, Psychiatrie und Psychotherapie FMH, eine psychiatrische Expertise (Gutachten vom 2. Oktober 2019) ein. Daraufhin wies die IV-Stelle das Neuanmeldegesuch mit Verfügung vom 11. September 2020 ab.
B.
Die von A._ hiegegen erhobene Beschwerde hiess das Verwaltungsgericht des Kantons Schwyz mit Entscheid vom 22. März 2021 in dem Sinne teilweise gut, als es der Versicherten bei einem Invaliditätsgrad von 40 % eine Viertelsrente zusprach. Zur Festlegung des Rentenbeginns und der nachzuzahlenden Rentenbeträge wies das kantonale Gericht die Sache an die IV-Stelle zurück.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt die IV-Stelle Schwyz, es sei in Aufhebung des kantonalen Gerichtsentscheides ihre rentenablehnende Verfügung vom 11. September 2020 zu bestätigen, eventuell sei die Sache zu weiteren medizinischen Abklärungen an das kantonale Gericht, subeventuell an sie selber, zurückzuweisen.
Während A._ auf Abweisung der Beschwerde - soweit auf sie einzutreten ist - schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung. Zudem stellt A._ ein Gesuch um unentgeltliche Rechtspflege.

Erwägungen:
1.
1.1. Das BGG unterscheidet in Art. 90 bis 93 zwischen End-, Teil- sowie Vor- und Zwischenentscheiden und schafft damit eine für alle Verfahren einheitliche Terminologie. Ein Endentscheid ist ein Entscheid, der das Verfahren prozessual abschliesst (Art. 90 BGG), sei dies mit einem materiellen Entscheid oder Nichteintreten, z.B. mangels Zuständigkeit. Der Teilentscheid ist eine Variante des Endentscheids. Mit ihm wird über eines oder einige von mehreren Rechtsbegehren (objektive und subjektive Klagehäufung) abschliessend befunden. Es handelt sich dabei nicht um verschiedene materiellrechtliche Teilfragen eines Rechtsbegehrens, sondern um verschiedene Rechtsbegehren. Vor- und Zwischenentscheide sind alle Entscheide, die das Verfahren nicht abschliessen und daher weder End- noch Teilentscheid sind; sie können formell- und materiellrechtlicher Natur sein. Voraussetzung für die selbstständige Anfechtbarkeit materiellrechtlicher Zwischenentscheide ist gemäss Art. 93 Abs. 1 BGG zunächst, dass sie selbstständig eröffnet worden sind. Erforderlich ist sodann alternativ, dass der angefochtene Entscheid einen nicht wieder gutzumachenden Nachteil bewirken kann (lit. a) oder dass die Gutheissung der Beschwerde sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren ersparen würde (lit. b).
1.2. Beim kantonalen Entscheid vom 22. März 2021 handelt es sich um einen Zwischenentscheid: Die Vorinstanz stellte für die Beschwerdeführerin verbindlich fest, dass die Versicherte Anspruch auf eine Viertelsrente der Invalidenversicherung habe und wies die Sache zur Festsetzung des Rentenbeginns und der nachzuzahlenden Rentenbeträge an die IV-Stelle zurück. Könnte die Verwaltung den kantonalen Gerichtsentscheid nicht vor Bundesgericht anfechten, so hätte dies zur Folge, dass sie gezwungen wäre, eine ihres Erachtens rechtswidrige leistungszusprechende Verfügung zu erlassen. Diese könnte sie in der Folge nicht selber anfechten; da die Gegenpartei in der Regel kein Interesse haben wird, den allenfalls zu ihren Gunsten rechtswidrigen Endentscheid anzufechten, könnte der kantonale Vorentscheid nicht mehr korrigiert werden und würde zu einem nicht wieder gutzumachenden Nachteil für die Verwaltung führen (vgl. <ref-ruling> E. 5.2 S. 483 ff.). Auf die Beschwerde der IV-Stelle ist demnach einzutreten.
2.
2.1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Dennoch prüft es - offensichtliche Fehler vorbehalten - nur die in seinem Verfahren gerügten Rechtsmängel (Art. 42 Abs. 1 und 2 BGG; <ref-ruling> E. 4.2 mit Hinweis). Es legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann ihre Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Verfahrensausgang entscheidend sein kann (Art. 97 Abs. 1, Art. 105 Abs. 2 BGG).
2.2. Streitig und zu prüfen ist, ob das kantonale Gericht Bundesrecht verletzte, als es der Beschwerdegegnerin eine Viertelsrente der Invalidenversicherung zusprach und die Sache zur Festsetzung des Rentenbeginns (und der nachzuzahlenden Rentenbeträge) an die IV-Stelle zurückwies.
2.3. Der Anspruch auf Leistungen der Invalidenversicherung setzt unter anderem voraus, dass die versicherte Person invalid oder von Invalidität unmittelbar bedroht ist. Invalidität ist gemäss Art. 8 Abs. 1 ATSG die voraussichtlich bleibende oder längere Zeit dauernde ganze oder teilweise Erwerbsunfähigkeit.
2.4. Ist im Rahmen einer Neuanmeldung eine anspruchserhebliche Änderung glaubhaft gemacht, so ist die Verwaltung verpflichtet, den Rentenanspruch in tatsächlicher und rechtlicher Hinsicht umfassend zu prüfen (SVR 2014 IV Nr. 33 S. 121, 8C_746/2013 E. 2); sie hat demnach in analoger Weise wie bei einem Revisionsfall nach Art. 17 ATSG vorzugehen (vgl. dazu <ref-ruling>). Stellt sie fest, dass der Invaliditätsgrad seit Erlass der früheren rechtskräftigen Verfügung keine Veränderung erfahren hat, so weist sie das neue Gesuch ab. Andernfalls hat sie zunächst noch zu prüfen, ob die festgestellte Veränderung genügt, um nunmehr eine anspruchsbegründende Invalidität zu bejahen, und hernach zu beschliessen.
3.
3.1. Gemäss den grundsätzlich verbindlichen Sachverhaltsfeststellungen des kantonalen Gerichts (vgl. E. 2.1 hievor) hat sich der Gesundheitszustand der Versicherten im vorliegend massgebenden Zeitraum seit der letzten rentenablehnenden Verfügung (25. September 2014) in somatischer Hinsicht nicht wesentlich verändert. Demgegenüber stellte die Vorinstanz eine wesentliche Verschlechterung des psychischen Gesundheitszustandes fest, da zur vorbestehenden Angststörung eine rezidivierende depressive Störung mit Auswirkung auf die Erwerbsfähigkeit hinzugetreten sei. Diese Feststellung weicht von den Ausführungen des von der IV-Stelle im Verfahren nach Art. 44 ATSG beauftragten psychiatrischen Gutachters, Dr. med. B._ ab. Dieser verneinte in seiner Expertise vom 2. Oktober 2019 eine eigenständige depressive Störung nach ICD-10 und ging lediglich von kurzen depressiven Reaktionen auf belastende psychosoziale Situationen ohne Auswirkungen auf die Erwerbsfähigkeit aus. Das kantonale Gericht führte zu dieser Diskrepanz unter Hinweis auf ein Urteil des Bundesgerichts vom 23. November 2020 (gemeint ist wohl das Urteil 9C_524/2020 betreffend eine Aggravation) aus, psychosoziale Belastungsfaktoren schlössen eine invalidenversicherungsrechtlich relevante psychische Gesundheitsstörung nicht in jedem Fall aus, vielmehr sei im Einzelfall eine Ausscheidung im Sinne einer ermessensweisen Schätzung vorzunehmen. Vorliegend sei daher von einem psychischen Leiden mit teilweiser Einschränkung der Erwerbsfähigkeit (und mit teilweiser Einschränkung der Haushaltstätigkeit) auszugehen. Aufgrund einer Bemessung der Invalidität nach der gemischten Methode ergebe sich nunmehr ein rentenbegründender Invaliditätsgrad von 40 %, wobei dieses Ergebnis "in erheblichen Masse Züge einer (zwischen den Parteien) vermittelnden Position aufweist und damit einer gerichtlichen Vergleichslösung nahekommt".
3.2. Auf ein im Verfahren nach Art. 44 ATSG eingeholtes Gutachten ist rechtsprechungsgemäss abzustellen, wenn nicht konkrete Indizien gegen die Zuverlässigkeit der Expertise sprechen (<ref-ruling> E. 4.4). Die Vorinstanz nennt keine solche Indizien, welche gegen die Zuverlässigkeit des Gutachtens des Dr. med. B._ vom 2. Oktober 2019 sprechen würden; solche sind denn auch keine ersichtlich, woran insbesondere auch die von der Beschwerdegegnerin angesprochene Gesamtwürdigung nichts zu ändern vermag. Soweit die Vorinstanz unter Hinweis auf psychosoziale Belastungsfaktoren von den Einschätzungen des Gutachters abgewichen ist, ist ihr zwar insoweit beizupflichten, als das Vorliegen solcher psychosozialer Belastungsfaktoren einen invalidenversicherungsrechtlich relevanten psychischen Gesundheitsschaden nicht in jedem Fall ausschliesst. Soweit solche Faktoren indessen direkt negative funktionelle Folgen zeitigen, haben diese bei der Invaliditätsbemessung ausgeklammert zu bleiben (vgl. <ref-ruling> E. 4.3.3). Wenn somit ein psychiatrischer Gutachter aufgrund seines Fachwissens in einer beweiswertigen Expertise (vgl. <ref-ruling>) zum Schluss kommt, es liege keine psychiatrische Krankheit mit Auswirkungen auf die Erwerbsfähigkeit vor, so bleibt entgegen den vorinstanzlichen Erwägungen kein Raum für eine ermessensweise Schätzung eines invalidenversicherungsrechtlich relevanten psychischen Gesundheitsschadens durch den Rechtsanwender. Insbesondere erübrigt sich bei einer solchen Ausgangslage die Durchführung eines strukturierten Beweisverfahrens (<ref-ruling> E. 4.5.3 mit weiteren Hinweisen). Wie die beschwerdeführernde IV-Stelle zutreffend geltend macht, verletzte das kantonale Gericht demnach Bundesrecht, als es entgegen den nachvollziehbar begründeten Erörterungen dieses Experten, wonach keine eigenständige depressive Störung nach ICD-10 vorliege, aufgrund der von den behandelnden Ärzten beschriebenen depressiven Symptomatik und unter Hinweis auf psychosoziale Belastungsfaktoren eine wesentliche Veränderung des psychiatrischen Gesundheitszustandes bejahte.
3.3. Die Feststellung des kantonalen Gerichts, wonach im massgeblichen Zeitraum keine erhebliche Veränderung des somatischen Gesundheitszustandes stattgefunden hat, ist letztinstanzlich unbestritten geblieben. Fehlt es somit sowohl an einer wesentlichen Änderung des psychischen, als auch des somatischen Gesundheitszustandes, so hat die IV-Stelle zu Recht das Neuanmeldegesuch der Versicherten abgewiesen. Entsprechend ist die Beschwerde der IV-Stelle gutzuheissen, und es ist unter Aufhebung des kantonalen Gerichtsentscheides die Verfügung vom 11. September 2020 zu bestätigen.
4.
Bei diesem Verfahrensausgang sind die Gerichtskosten der Beschwerdegegnerin aufzuerlegen (Art. 66 Abs. 1 Satz 1 BGG). Ihrem Gesuch um unentgeltliche Rechtspflege ist stattzugeben, da die entsprechenden gesetzlichen Voraussetzungen erfüllt sind (Art. 64 Abs. 1 und 2 BGG). Es wird indessen ausdrücklich auf Art. 64 Abs. 4 BGG aufmerksam gemacht, wonach die begünstigte Partei der Gerichtskasse Ersatz zu leisten haben wird, wenn sie später dazu in der Lage ist. Dem Rechtsvertreter der Beschwerdeführerin ist somit eine Entschädigung gemäss eingereichter Kostennote - welche zu keinen Bemerkungen Anlass gibt (vgl. auch Urteil 9C_687/2013 vom 24. Juni 2014 E. 6.2) - auszurichten. Überdies ist die Sache zur Neuverlegung der Kosten und der Parteientschädigung des vorangegangenen Verfahrens an das Verwaltungsgericht des Kantons Schwyz zurückzuweisen (Art. 67 und Art. 68 Abs. 5 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen. Der Entscheid des Verwaltungsgerichts des Kantons Schwyz vom 22. März 2021 wird aufgehoben und die Verfügung der IV-Stelle Schwyz vom 11. September 2020 bestätigt.
2.
Der Beschwerdegegnerin wird die unentgeltliche Rechtspflege gewährt und Rechtsanwalt Matthias Kessler wird als unentgeltlicher Anwalt bestellt.
3.
Die Gerichtskosten von Fr. 800.- werden der Beschwerdegegnerin auferlegt, indes vorläufig auf die Bundesgerichtskasse genommen.
4.
Dem Rechtsvertreter der Beschwerdegegnerin wird aus der Bundesgerichtskasse eine Entschädigung von Fr. 3979.30 ausgerichtet.
5.
Die Sache wird zur Neuverlegung der Kosten und der Parteientschädigung des vorangegangenen Verfahrens an das Verwaltungsgericht des Kantons Schwyz zurückgewiesen.
6.
Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Schwyz und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 29. November 2021
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Parrino
Der Gerichtsschreiber: Nabold