Sachverhalt:
A.
Der 1976 im Irak geborene A._ reiste im Jahre 1999 als Asylsuchender in die Schweiz ein. Nachdem er sich im November 2006 bei der Invalidenversicherung zum Leistungsbezug angemeldet hatte, sprach ihm die IV-Stelle Schwyz mit Verfügung vom 14. Mai 2008 ab 1. Juli 2006 eine ganze Rente zu. Im Rahmen eines Revisionsverfahrens liess die IV-Stelle den Versicherten observieren. In der Folge hob die IV-Stelle die Rente mit Verfügung vom 18. Juni 2015 rückwirkend per 30. Juni 2013 auf; mit Verfügung vom 19. Juni 2015 forderte die IV-Stelle den Betrag von Fr. 24'840.- für zu Unrecht ausgerichtete Rentenleistungen zurück. Das Verwaltungsgericht des Kantons Schwyz bestätigte mit Entscheid vom 3. März 2016 sowohl die Rentenaufhebung als auch die Rückforderung.
B.
Am 19. Mai 2021 stellte A._, gestützt auf eine auf den 14. März 2021 datierte Bestätigung des Dr. B._, beim Verwaltungsgericht des Kantons Schwyz ein Revisionsgesuch betreffend den kantonalen Entscheid vom 3. März 2016. Das kantonale Gericht wies dieses Gesuch mit Entscheid vom 9. Juni 2021 ab, soweit es auf dieses eintrat.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt A._, es sei unter Aufhebung des kantonalen Entscheids vom 9. Juni 2021 der kantonale Entscheid vom 3. März 2016 in Revision zu ziehen und die beiden Verfügungen vom 18. und 19. Juni 2015 seien aufzuheben.

Erwägungen:
1.
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 f. BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Dennoch prüft es - offensichtliche Fehler vorbehalten - nur die in seinem Verfahren gerügten Rechtsmängel (Art. 42 Abs. 1 und 2 BGG; <ref-ruling> E. 2.2.1). Es legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann deren Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Verfahrensausgang entscheidend sein kann (Art. 97 Abs. 1, Art. 105 Abs. 2 BGG).
2.
Streitig und zu prüfen ist, ob das kantonale Gericht Bundesrecht verletzt hat, als es das Revisionsgesuch des Versicherten betreffend den kantonalen Entscheid vom 3. März 2016 abwies, soweit es auf dieses eintrat.
3.
3.1. <ref-law> sieht für die Verfahren vor den kantonalen Versicherungsgerichten vor, dass die Revision von Entscheiden wegen Entdeckung neuer Tatsachen oder Beweismittel oder wegen Einwirkung durch Verbrechen oder Vergehen gewährleistet sein muss. Die betreffende ATSG-Bestimmung legt damit die für das kantonale Gerichtsverfahren massgebenden Revisionsgründe fest, überlässt aber die Ausgestaltung des Revisionsverfahrens (Frist, innert welcher das Revisionsbegehren einzureichen ist, usw.) dem kantonalen Recht (vgl. Urteil 8C_197/2020 vom 11. Mai 2020 E. 3.1 mit weiteren Hinweisen).
3.2. Der Begriff "neue Tatsachen oder Beweismittel" ist bei der prozessualen Revision eines Verwaltungsentscheids nach <ref-law> gleich auszulegen wie bei der Revision eines kantonalen Gerichtsentscheids gemäss <ref-law> oder bei der Revision eines Bundesgerichtsurteils gemäss <ref-law>. Neu sind Tatsachen, die sich bis zum Zeitpunkt, da im Hauptverfahren noch tatsächliche Vorbringen prozessual zulässig waren, verwirklicht haben, jedoch trotz hinreichender Sorgfalt nicht bekannt waren. Die neuen Tatsachen müssen ferner erheblich sein, das heisst, sie müssen geeignet sein, die tatbestandliche Grundlage des zur Revision beantragten Entscheids zu verändern und bei zutreffender rechtlicher Würdigung zu einer anderen Entscheidung zu führen (<ref-ruling> E. 2.3 f.; u.a. Urteil 8C_607/2017 vom 31. August 2018 E. 4 mit weiteren Hinweisen; Urteil 9C_291/2017 vom 20. September 2018 E. 4.2 mit Hinweis). Ausgeschlossen ist demgegenüber eine Revision aufgrund echter Noven, mithin aufgrund von Tatsachen oder Beweisen, die erst zu einem Zeitpunkt eingetreten bzw. vorhanden waren, an welchen sie nach den damals anwendbaren Verfahrensregeln nicht mehr vorgebracht werden konnten (Elisabeth Escher, in: Basler Kommentar, Bundesgerichtsgesetz, 3. Aufl. 2018, N. 7 zu <ref-law>; vgl. auch SUSANNE BOLLINGER, in: Basler Kommentar, Allgemeiner Teil des Sozialversicherungsrechts, 2020, N. 102 zu <ref-law>).
4.
Das kantonale Gericht lehnte eine Revision seines Entscheides vom 3. März 2016 aufgrund der Bestätigung des Dr. B._ über Gefängnisaufenthalte des Versicherten in den 1990er Jahren mit dem Argument ab, die Rente sei in jenem Entscheid nicht wegen des fehlenden Nachweises einer Inhaftierung verneint worden. Vielmehr sei eine posttraumatische Belastungsstörung aufgrund von Folter im Irak als nicht plausibel beurteilt worden, da der Versicherte während des ganzen Asylverfahrens in der Schweiz nicht geltend gemacht hat, Opfer von Folter geworden zu sein. Damit könne die neu beigebrachte Bestätigung nicht als erhebliches Beweismittel im Sinne der Rechtsprechung gelten. Der Beschwerdeführer rügt diese vorinstanzlichen Erwägungen als bundesrechtswidrig, da mit dem nachträglichen Beweis der Inhaftierungen im Irak auch die von ihm im IV-Verfahren geltend gemachten Folterungen als glaubhaft erscheinen würden. Wie es sich damit verhält, braucht indessen nicht näher geprüft zu werden. Fest steht nämlich, dass die eingereichte Bestätigung erst am 14. März 2021 ausgestellt wurde. Damit handelt es sich bei ihr nicht um ein erst nach dem zu revidierenden Entscheid aufgefundenes Beweismittel, sondern um ein echtes, erst nach diesem Entscheid entstandenes Novum. Als solches vermag es indessen im Vorneherein keine Revision im Sinne von <ref-law> zu begründen (vgl. E. 3.2 hievor). Damit kann auch offen bleiben, welche Beweiskraft einer solchen Bestätigung überhaupt zukommen kann. Der vorinstanzliche Entscheid besteht jedenfalls im Ergebnis zu Recht; die Beschwerde ist abzuweisen.
5.
Dem Verfahrensausgang entsprechend sind die Gerichtskosten dem unterliegenden Beschwerdeführer aufzuerlegen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Schwyz und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 15. September 2021
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Parrino
Der Gerichtsschreiber: Nabold