Sachverhalt:
A.
A._, geboren 1973, arbeitete als Raumpflegerin während insgesamt 50-60 Stunden pro Woche für verschiedene Haushalte. Am 11. Juli 2018 musste sie wegen eines Kammerflimmerns notfallmässig reanimiert werden und war bis zum 25. Juli 2018 im Kantonsspital B._ hospitalisiert. Am 24. Januar 2019 nahm A._ ihre angestammte Tätigkeit als Raumpflegerin in einem Pensum von bis zu 38 Stunden pro Woche wieder auf. A m 11. April 2019 meldete sie sich bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons Zürich (nachfolgend: IV-Stelle oder Beschwerdegegnerin) holte Berichte des Hausarztes Dr. med. C._, Facharzt für Allgemeine Innere Medizin, des Kantonsspital B._ und des Universitätsspitals D._ ein. Mit Stellungnahme vom 28. August 2019 empfahl der Regionale Ärztliche Dienst (RAD) weitere Abklärungen. Die daraufhin von der IV-Stelle geprüfte Arbeitserprobung im Sinne eines Belastbarkeits- und Aufbautrainings wurde aufgrund der mangelnden Deutschkenntnisse der A._ jedoch nicht durchgeführt. Gestützt auf eine weitere Stellungnahme des RAD-Arztes Dr. med. E._, Facharzt für Allgemeine Innere Medizin, vom 12. September 2019 verneinte die IV-Stelle bei einem ermittelten Invaliditätsgrad von 0 % einen Rentenanspruch (Verfügung vom 2. Juni 2020).
B.
Die hiergegen erhobene Beschwerde der A._ wies das Sozialversicherungsgericht des Kantons Zürich mit Urteil vom 10. Februar 2021 ab.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt A._ beantragen, die Sache sei unter Aufhebung des angefochtenen Urteils zur erneuten Sachverhaltsabklärung und Invaliditätsbemessung an die IV-Stelle zurückzuweisen.
Das Bundesgericht hat die vorinstanzlichen Akten eingeholt. Während die IV-Stelle auf Beschwerdeabweisung schliesst, verzichten die Vorinstanz und das Bundesamt für Sozialversicherungen (BSV) auf eine Vernehmlassung.

Erwägungen:
1.
1.1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 f. BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Dennoch prüft es - offensichtliche Fehler vorbehalten - nur die in seinem Verfahren beanstandeten Rechtsmängel (Art. 42 Abs. 1 f. BGG). Es legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann ihre Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>; zum Ganzen <ref-ruling> E. 4).
1.2. Bei den gerichtlichen Feststellungen zum Gesundheitszustand und zur Arbeitsfähigkeit sowie bei der konkreten Beweiswürdigung handelt es sich um für das Bundesgericht grundsätzlich verbindliche Tatfragen (<ref-ruling> E. 1.2; <ref-ruling> E. 3.2; Urteil 8C_477/2020 vom 25. November 2020 E. 2.2). Dagegen sind frei überprüfbare Rechtsfragen die unvollständige Feststellung rechtserheblicher Tatsachen sowie die Missachtung des Untersuchungsgrundsatzes (Art. 43 Abs. 1, Art. 61 lit. c ATSG) und der Anforderungen an den Beweiswert ärztlicher Berichte und Gutachten (<ref-ruling> E. 5.1; <ref-ruling> E. 3a; Urteil 8C_488/2020 vom 12. November 2020 E. 1.2).
2.
Streitig und zu prüfen ist, ob das kantonale Gericht gegen Bundesrecht verstossen hat, indem es die am 2. Juni 2020 von der IV-Stelle verfügte Verneinung eines Rentenanspruchs bestätigte.
3.
3.1. Das kantonale Gericht hat die gesetzlichen Bestimmungen zu den Begriffen der Invalidität (<ref-law>) und der Erwerbsunfähigkeit (<ref-law>) sowie zum Anspruch auf eine Invalidenrente (Art. 28 Abs. 1 und 2 IVG) zutreffend wiedergegeben. Darauf wird verwiesen.
3.2. Hervorzuheben ist, dass sich die Verwaltung und im Beschwerdefall das Gericht bei der Beurteilung der Arbeits (un) fähigkeit auf Unterlagen stützt, die von ärztlichen und gegebenenfalls auch anderen Fachleuten zur Verfügung zu stellen sind. Ärztliche Aufgabe ist es, den Gesundheitszustand zu beurteilen und dazu Stellung zu nehmen, in welchem Umfang und bezüglich welcher Tätigkeiten die versicherte Person arbeitsunfähig ist. Hinsichtlich des Beweiswertes eines Arztberichtes ist entscheidend, ob dieser für die streitigen Belange umfassend ist, auf allseitigen Untersuchungen beruht, auch die geklagten Beschwerden berücksichtigt, in Kenntnis der Vorakten (Anamnese) abgegeben worden ist, in der Beurteilung der medizinischen Zusammenhänge sowie der medizinischen Situation einleuchtet und ob die Schlussfolgerungen der Experten begründet sind (<ref-ruling> E. 3.2; <ref-ruling> E. 5.1; <ref-ruling> E. 3a; Urteil 9C_135/2021 vom 27. April 2021 E. 2.2; je mit Hinweisen). Der Arzt muss über die notwendigen fachlichen Qualifikationen verfügen (Urteile 9C_661/2019 vom 26. Mai 2020 E. 4.1 und 8C_309/2016 vom 14. Dezember 2016 E. 4.3 je mit Hinweisen).
3.3. Anzufügen bleibt, dass der Sozialversicherungsprozess vom Untersuchungsgrundsatz beherrscht ist. Danach hat das Gericht von Amtes wegen für die richtige und vollständige Feststellung des rechtserheblichen Sachverhalts zu sorgen. Die Verwaltung als verfügende Instanz und - im Beschwerdefall - das Gericht dürfen eine Tatsache als bewiesen annehmen, wenn sie von ihrem Bestehen überzeugt sind. Im Sozialversicherungsrecht hat das Gericht seinen Entscheid, sofern das Gesetz nicht etwas Abweichendes vorsieht, nach dem Beweisgrad der überwiegenden Wahrscheinlichkeit zu fällen. Die blosse Möglichkeit eines bestimmten Sachverhalts genügt den Beweisanforderungen nicht. Das Gericht hat vielmehr jener Sachverhaltsdarstellung zu folgen, die es von allen möglichen Geschehensabläufen als die wahrscheinlichste würdigt (<ref-ruling> E. 3.2; <ref-ruling> E. 6; je mit Hinweisen).
4.
Die Vorinstanz hielt im angefochtenen Urteil fest, die Beschwerdeführerin sei in ihrer angestammten Tätigkeit als Raumpflegerin zunächst zu 100 % und ab dem 24. Januar 2019 zu 50 % arbeitsunfähig gewesen. Die Beschwerdeführerin bringt bezüglich dieser vorinstanzlichen Sachverhaltsfeststellung keine Rügen vor.
5.
5.1. Nach Würdigung der medizinischen Aktenlage gelangte das kantonale Gericht sodann zur Auffassung, die Beschwerdeführerin sei in leichten Tätigkeiten ohne Gewichtsbelastung und in ruhiger Atmosphäre spätestens seit dem 1. April 2019 zu 100 % arbeitsfähig.
5.2. Die Beschwerdeführerin rügt, das kantonale Gericht habe den Untersuchungsgrundsatz verletzt und den Sachverhalt offensichtlich unrichtig festgestellt. Dem Hausarzt Dr. med. C._ hätten gemäss Bericht vom 18. Juli 2019 neuere kardiologische Berichte des Universitätsspitals D._ gefehlt. Eine dem Leiden angepasste Tätigkeit von 8.25 Stunden pro Tag habe er nur gestützt auf die reduzierte Aktenlage für zumutbar gehalten. In einer ersten Stellungnahme habe auch der RAD-Arzt Dr. med. E._ die vorhandenen Angaben als nicht nachvollziehbar erachtet und zur weiteren Abklärung eine Arbeitserprobung vorgeschlagen. Nachdem diese Eingliederungsmassnahme wegen der ungenügenden Deutschkenntnisse der Beschwerdeführerin jedoch nicht eingeleitet worden sei, habe Dr. med. E._ gestützt auf die zuvor als ungenügend eingestufte Aktenlage nun doch auf eine vollständige Arbeitsfähigkeit in körperlich leichten bis mittelschweren Tätigkeiten geschlossen. Die vorinstanzliche Feststellung einer grundsätzlich uneingeschränkten oder zumindest hochgradigen Arbeitsfähigkeit in angepasster Tätigkeit sei schon deshalb offensichtlich unrichtig, weil sie sich auf den nicht beweiswertigen Bericht des Dr. med. C._ stütze. Dieser habe sich selber gar nicht in der Lage gesehen, eine genügende Einschätzung der Arbeitsfähigkeit abzugeben. Die Frage des Beweiswertes des Berichts von Dr. med. C._ habe die Vorinstanz jedoch vollständig ausser Acht gelassen. Ebenfalls offensichtlich unrichtig sei die Feststellung der vollen Arbeitsfähigkeit, soweit die Vorinstanz dafür auf die nur noch leicht eingeschränkte Pumpfunktion des Herzens verweise. Für die Beantwortung einer solchen Sachverhaltsfrage fehlten der Vorinstanz die medizinischen Fachkenntnisse. Nicht begründet habe das kantonale Gericht sodann, weshalb die Abweichung des RAD-Arztes von seiner erstmaligen Einschätzung einer ungenügenden Aktenlage nicht zu beanstanden sei. Da es zur Einschätzung der Arbeitsfähigkeit in angepasster Tätigkeit an aussagekräftigen medizinischen Berichten fehle, sei der Sachverhalt ungenügend abgeklärt worden, was eine Verletzung des Untersuchungsgrundsatzes darstelle.
5.3. Laut angefochtenem Urteil hat Dr. med. C._ mit Bericht vom 18. Juli 2019 eine angepasste Tätigkeit im Umfang von täglich 8.25 Stunden als zumutbar erachtet. Zweifel an dieser Einschätzung des Hausarztes schloss die Vorinstanz angesichts der nur noch leicht eingeschränkten Pumpfunktion des Herzens und des von der Beschwerdeführerin wieder ausgeübten Pensums von 50 % in der angestammten, nicht optimal angepassten Tätigkeit als Raumpflegerin aus. Zusätzlich erwog das kantonale Gericht, auch der RAD-Arzt Dr. med. E._ habe mit Stellungnahme vom 12. September 2019 ohne weitere Abklärungen auf den Bericht von Dr. med. C._ abgestellt. Wie die Beschwerdeführerin zu Recht geltend macht, blendet die Vorinstanz dabei jedoch aus, dass Dr. med. C._ sich selber gar nicht in der Lage sah, Auskunft über die kardiale Situation der Beschwerdeführerin zu geben. So wies er im fraglichen Bericht vom 18. Juli 2019 zunächst bei der Schilderung der Anamnese darauf hin, ihm würden zur Beurteilung neuere Berichte des Dr. med. F._, Facharzt für Kardiologie des Universitätsspitals D._, fehlen. Im Rahmen der Befunderhebung unterstrich er erneut, ihm sei über die kardiologische Lage insbesondere von den letzten Untersuchungen aus dem Universitätsspital D._ zu wenig bekannt, um der IV-Stelle rechtsgenüglich Auskunft geben zu können, und verwies diese auf entsprechend beim Spital einzuholende Auskünfte. Auf diesen Umstand und das entsprechende Vorbringen der Beschwerdeführerin im Rahmen der kantonalen Beschwerde ging die Vorinstanz im angefochtenen Urteil nicht ein. Ebenfalls unberücksichtigt liess sie die Einschätzung von Dr. med. G._, Facharzt für Kardiologie des Kantonsspitals B._, welcher am 3. Juli 2019 aufgrund der kardialen Beschwerden von einer zeitlichen und körperlichen Einschränkung der Arbeitsfähigkeit auch in leichten bis mittleren Tätigkeiten ausging, ohne jedoch eine konkrete Einschätzung vorzunehmen. In einer ersten Stellungnahme vom 28. August 2019 sah sich sodann auch der RAD-Arzt Dr. med. E._ mangels genügender und nachvollziehbarer Angaben in den aktenkundigen Berichten ausserstande, das Ausmass der Arbeitsfähigkeit in herzadaptierten Tätigkeiten abschliessend zu beurteilen. Entgegen der Ansicht der Vorinstanz kann nach dem Gesagten nicht auf den Bericht von Dr. med. C._ vom 18. Juli 2019 und die darin geäusserte Einschätzung einer vollen Arbeitsfähigkeit in angepasster Tätigkeit abgestellt werden. Die von der Beschwerdeführerin wieder ausgeübte, nicht optimal angepasste Tätigkeit als Raumpflegerin in einem reduzierten Pensum und die von Dr. med. C._ am 4. Juni 2020 berichtete Verbesserung der kardialen Situation deuten zwar auf eine nicht geringe Arbeitsfähigkeit in angepasster Tätigkeit hin. Eine Einschränkung der Arbeitsfähigkeit lässt sich gestützt darauf indes nicht von vornherein ausschliessen, zumal Dr. med. C._ die Herzinsuffizienz weiterhin als ein die Arbeitsfähigkeit möglicherweise dauerhaft ein schränkendes Element bezeichnete. Soweit sich das kantonale Gericht für seine Annahme einer vollen Arbeitsfähigkeit auf die nur noch leicht eingeschränkte Pumpfunktion des Herzens abstützte, stellte es schliesslich eigene medizinische Überlegungen an. Es ist indessen nicht die Aufgabe des Gerichts, fachfremde Schlussfolgerungen zu ziehen (E. 3.2 hievor).
5.4. Auch die zweite RAD-ärztliche Stellungnahme des Dr. med. E._ vom 12. September 2019 vermag nicht zu überzeugen. Bei der Einschätzung einer zumutbaren Arbeitsfähigkeit in angepassten Tätigkeiten von 8.25 Stunden pro Tag stützte sich dieser auf den nicht beweiswertigen (E. 5.3 hievor) Bericht des Dr. med. C._ vom 18. Juli 2019. Dies erscheint widersprüchlich und nicht schlüssig, nachdem Dr. med. E._ den genannten Bericht des Hausarztes noch mit Stellungnahme vom 28. August 2019 als zur Beurteilung der Arbeitsfähigkeit ungenügend einstufte und die vom RAD-Arzt vorgeschlagene Arbeitserprobung nicht durchgeführt wurde.
5.5. Die medizinischen Unterlagen erlauben nach dem Gesagten nicht, die Arbeitsfähigkeit der Beschwerdeführerin in zuverlässiger Weise einzuschätzen. Indem die Vorinstanz und die Beschwerdegegnerin dennoch auf zusätzliche - insbesondere medizinische - Abklärungen verzichteten, verletzten sie den Untersuchungsgrundsatz (Art. 43 Abs. 1, Art. 61 lit. c ATSG). Das angefochtene Urteil ist daher aufzuheben und die Sache an die Beschwerdegegnerin zurückzuweisen (<ref-law>), damit sie die Frage, ob bei der Beschwerdeführerin eine invalidisierende gesundheitliche Beeinträchtigung vorliege, abkläre und anschliessend über deren Rentenanspruch neu verfüge.
6.
Die Rückweisung der Sache an die Verwaltung zu weiterer Abklärung (mit noch offenem Ausgang) gilt für die Frage der Auferlegung der Gerichtskosten wie auch der Parteientschädigung als vollständiges Obsiegen im Sinne von Art. 66 Abs. 1 sowie Art. 68 Abs. 1 und 2 BGG, unabhängig davon, ob sie beantragt oder ob das Begehren im Haupt- oder Eventualantrag gestellt wird (<ref-ruling> E. 7.1). Die unterliegende Beschwerdegegnerin hat die Gerichtskosten zu tragen (<ref-law>) und dem Beschwerdeführer eine Parteientschädigung zu bezahlen (<ref-law>). Die Sache wird zur Neuverlegung der Kosten und der Parteientschädigung des vorangegangenen Verfahrens an das Sozialversicherungsgericht des Kantons Zürich zurückgewiesen (Art. 67 und Art. 68 Abs. 5 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen. Das Urteil des Sozialversicherungsgerichts des Kantons Zürich vom 10. Februar 2021 und die Verfügung der IV-Stelle des Kantons Zürich vom 2. Juni 2020 werden aufgehoben. Die Sache wird zu neuer Verfügung an die IV-Stelle des Kantons Zürich zurückgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden der Beschwerdegegnerin auferlegt.
3.
Die Beschwerdegegnerin hat die Beschwerdeführerin für das bundesgerichtliche Verfahren mit Fr. 2800.- zu entschädigen.
4.
Die Sache wird zur Neuverlegung der Kosten und der Parteientschädigung des vorangegangenen Verfahrens an das Sozialversicherungsgericht des Kantons Zürich zurückgewiesen.
5.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 10. Juni 2021
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Der Gerichtsschreiber: Walther