Sachverhalt:
A.
A.a. Im Hinblick auf die Übernahme einer Praxis erteilte das Amt für Gesundheit und Soziales des Kantons Schwyz (AGS) dem Arzt A._ die Bewilligung zur selbständigen Berufsausübung sowie zur Führung einer Patientenapotheke (Selbstdispensation).
A.b. Nachdem es bereits früher zu Praxisinspektionen und Beanstandungen gekommen war, eröffnete das AGS als Folge von gehäuften Reklamationen betreffend A._ sowie nach einer weiteren, unangemeldeten Praxisinspektion mit Verfügung vom 24. Mai 2013 (Verfügung Nr. 109/13) ein Verwaltungsverfahren gegen den Betroffenen (Hauptverfahren I). Mit derselben Verfügung untersagte das AGS A._ "per sofort und vorläufig bis zum Abschluss des Verwaltungsverfahrens" die Leistung von Notfalldienst sowie die Führung einer Patientenapotheke (Selbstdispensation). Gegen diese vorsorglichen Massnahmen gelangte A._ nach Durchlaufen verschiedener kantonaler Instanzen schliesslich ans Verwaltungsgericht des Kantons Schwyz. Am 11. September 2014 zog er seine diesbezügliche Beschwerde jedoch vorbehaltlos zurück, worauf das Verwaltungsgericht das entsprechende Verfahren als gegenstandslos abschrieb. Die genannten vorsorglichen Massnahmen wurden mithin formell rechtskräftig angeordnet.
A.c. Nachdem A._ eine weitere Praxisinspektion verweigert hatte und es zu einer neuen Reklamation hinsichtlich seiner Berufsausübung gekommen war, eröffnete das AGS am 17. April 2014 abermals ein Verwaltungsverfahren gegen ihn (Hauptverfahren II). Gleichzeitig untersagte das AGS A._ "per sofort und vorläufig bis zum Abschluss des Verwaltungsverfahrens" die selbständige Berufsausübung als Arzt als Ganzes. Eine von A._ gegen diese weitergehende vorsorgliche Massnahme erhobene Einsprache wies das AGS am 5. Mai 2014 ab. Der Einspracheentscheid wurde vom Betroffenen nicht angefochten und erwuchs mithin ebenfalls in formelle Rechtskraft.
A.d. Am 13. Februar 2015 (Verfügung Nr. 032/15) vereinigte das AGS die beiden Hauptverfahren und fällte einen Entscheid in der Sache selbst: Es verbot A._ die selbständige Berufsausübung als Arzt für die Dauer von 24 Monaten, berechnet ab dem 9. Mai 2014. Dem Betroffenen wurde die Möglichkeit eingeräumt, frühestens ab dem 9. November 2015 ein Gesuch um Abkürzung des Berufsverbotes für die noch verbleibende Restdauer zu stellen.
B.
Gegen die Verfügung des AGS vom 13. Februar 2015 beschwerte sich A._ am 9. März 2015 beim Regierungsrat des Kantons Schwyz. Am 8. März 2016 wies der Regierungsrat die Beschwerde ab (RRB Nr. 230/2016).
In der Folge gelangte A._ mit Beschwerde vom 20. April 2016 an das Verwaltungsgericht des Kantons Schwyz. Dabei stellte er im Wesentlichen den Antrag, "der Beschluss des Regierungsrates vom 8. März 2016 [...] sei aufzuheben und es sei festzustellen, dass die Verfügung des Amtes für Gesundheit und Soziales vom 13. Februar 2015 [...] rechtswidrig ist".
Mit Entscheid vom 23. November 2016 hiess das Verwaltungsgericht des Kantons Schwyz die Beschwerde teilweise gut. Das Dispositiv dieses Entscheids lautet auszugsweise wie folgt:
"1.1 In teilweiser Gutheissung der Beschwerde wird der angefochtene RRB Nr. 230/2016 vom 8. März 2016 im Sinne der Erwägungen insoweit teilweise gutgeheissen, als dass festgestellt wird, dass mit dem vom Amt für Gesundheit und Soziales mit Verfügung Nr. 032/15 vom 13. Februar 2015 gegenüber dem Beschwerdeführer ausgesprochenen Verbot der selbständigen Berufsausübung als Arzt für die Dauer von 24 Monaten die Verhältnismässigkeit nicht mehr gewahrt wurde.
Gleichzeitig wird die Rechtmässigkeit des vom Amt für Gesundheit und Soziales mit der Verfügung Nr. 109/13 vom 24. Mai 2013 gegenüber dem Beschwerdeführer ausgesprochenen Verbots der Leistung von Notfalldienst und Verbots der Führung einer Patientenapotheke unter eigener Verantwortung (Selbstdispensation), welche in der Verfügung Nr. 032/15 vom 13. Februar 2015 aufging, bestätigt. Im Übrigen wird die Beschwerde abgewiesen.
[Kosten- und Entschädigungsfolgen, Rechtsmittelbelehrung, Mitteilungen] "
C.
Mit Eingabe vom 26. Januar 2017 führt A._ Beschwerde beim Bundesgericht und stellt im Wesentlichen die folgenden Anträge:
"1. Ziff. 1.1 Absatz 2 des Entscheides vom 23. November 2016 des Verwaltungsgerichts Schwyz, Verfahrensnummer III 2016 88, sei (a) aufzuheben bzw., (b) sofern und soweit er den Zeitraum nach dem 9. Mai 2016 betrifft, als nichtig zu erklären;
2. es sei festzustellen, dass die mit Verfügung Nr. 109/13 vom 24. Mai 2013 bzw. mit der sie ablösenden Verfügung Nr. 032/15 vom 13. Februar 2015 des Amtes für Gesundheit und Soziales des Kantons Schwyz ausgesprochenen Verbote der Beteiligung am Notfalldienst sowie der Führung einer Patientenapotheke rechtswidrig sind;
3. es sei festzustellen, dass gegenüber dem Beschwerdeführer keine disziplinarischen Massnahmen im Sinn von Ziff. 7.3 der vorinstanzlichen Ausführungen, auf welche Ziff. 1.1 Absatz 1 des Dispositivs verweist, verhängt werden dürfen;
[...]"
Während das Amt für Gesundheit und Soziales des Kantons Schwyz auf eine Vernehmlassung verzichtet, schliesst der Regierungsrat des Kantons Schwyz auf Abweisung der Beschwerde. Das Verwaltungsgericht des Kantons Schwyz führt in seiner Stellungnahme aus, es sei mit dem Nebensatz "welche in der Verfügung Nr. 032/15 vom 13. Februar 2015 aufging" in Ziffer 1.1 zweiter Absatz des Dispositives seines Entscheides hinlänglich klargestelllt worden, dass sich die Bestätigung der Rechtmässigkeit der gegenüber dem Beschwerdeführer ausgesprochenen Verbote der Leistung von Notfalldienst und der Führung einer Patientenapotheke nur auf den mit Verfügung Nr. 032/15 vom 13. Februar 2015 limitierten Zeitraum, d.h. auf eine Dauer von 24 Monaten berechnet ab dem 9. Mai 2014, beziehen könne.
Mit Schreiben vom 16. März 2017 wurde dem Beschwerdeführer das Vernehmlassungsergebnis mitgeteilt. Innert der angesetzten Frist für eine weitere (fakultative) Stellungnahme teilte der Beschwerdeführer am 28. März 2017 mit, dass er auf weitere Ausführungen verzichtet.

Erwägungen:
1.
1.1. Gemäss <ref-law> ist zur Beschwerde in öffentlich-rechtlichen Angelegenheiten berechtigt, wer durch den angefochtenen Entscheid besonders berührt ist und ein schutzwürdiges Interesse an dessen Aufhebung oder Änderung hat. Das schutzwürdige Interesse besteht in der Abwendung eines unmittelbaren, materiellen oder ideellen Nachteils im Fall der Gutheissung der Beschwerde (<ref-ruling> E. 2.2 S. 282 mit Hinweisen). Ein solches Rechtsschutzinteresse muss zudem aktuell sein, was voraussetzt, dass es sowohl im Moment der Beschwerdeführung als auch im Zeitpunkt des bundesgerichtlichen Urteils noch vorhanden ist (<ref-ruling> E. 4.2 S. 299 m.w.H.). Ausnahmsweise kann auf das Erfordernis der aktuellen Rechtsschutzinteressen verzichtet werden, wenn sich die aufgeworfenen Fragen jederzeit wieder stellen können, eine rechtzeitige Überprüfung im Einzelfall kaum je möglich wäre und die Beantwortung wegen deren grundsätzlicher Bedeutung im öffentlichen Interesse liegt (<ref-ruling> E. 1.3.1).
1.2. Im vorliegenden Fall ist unstreitig, dass das gegenüber dem Beschwerdeführer ausgesprochene Verbot der selbständigen Berufsausübung eine Dauer von 24 Monaten ab dem 9. Mai 2014 betraf und mithin am 8. Mai 2016, d.h. bereits vor dem hier angefochtenen Entscheid des Verwaltungsgerichts des Kantons Schwyz vom 23. November 2016, nicht mehr galt.
Aus diesem Grund stellte der Beschwerdeführer bereits vor der Vorinstanz ausschliesslich Feststellungsbegehren. Das Verwaltungsgericht erachtete dies als zulässig und ein entsprechendes Rechtsschutzinteresse als gegeben, weil ein als Disziplinarmassnahme ausgesprochenes befristetes Berufsverbot im Medizinalberuferegister eingetragen werde und nach seiner Aufhebung noch während zehn Jahren mit dem Vermerk "gelöscht" im Register verbleibe. Dies könne zwangsläufig berufliche Nachteile nach sich ziehen. Erweise sich das befristete Berufsausübungsverbot demgegenüber im Sinne der Argumentation des Beschwerdeführers als ungerechtfertigt, so entfalle die Grundlage für einen entsprechenden Eintrag im Medizinalberuferegister (E. 1.1 - 1.4 des angefochtenen Entscheids).
Während diese Begründung mit Hinsicht auf das vorinstanzliche Verfahren als nachvollziehbar erscheint, verhält es sich im vorliegenden Verfahrensstadium anders: Die Vorinstanz ist nämlich - wie aufgezeigt - dem Antrag des Beschwerdeführers gefolgt und hat die Unverhältnismässigkeit des angefochtenen befristeten und inzwischen nicht mehr wirksamen Berufsverbotes festgestellt, womit auch die Eintragung im Medizinalberuferegister resp. das Fortbestehen dieses Eintrags nach Ablauf der Massnahme hinfällig geworden ist. Ein nach wie vor bestehendes Rechtsschutzinteresse des Beschwerdeführers ist in diesem Zusammenhang nicht erkennbar und wird von diesem auch nicht aufgezeigt.
1.3. Gleiches gilt auch bezüglich der mit Verfügung vom 24. Mai 2013 (Verfügung Nr. 109/13) "per sofort und vorläufig bis zum Abschluss des Verwaltungsverfahrens" angeordneten Verbote der Leistung von Notfalldienst bzw. der Führung einer Patientenapotheke (Selbstdispensation). Wie sich aus den obenstehenden Ausführungen zum Sachverhalt ergibt, kam diesen vorsorglichen Massnahmen nur bis zum 17. April 2014 eine eigenständige Bedeutung zu: An diesem Tag verfügte das AGS die Eröffnung eines weiteren Verwaltungsverfahrens gegen den Beschwerdeführer und untersagte ihm gleichzeitig, wiederum "per sofort und vorläufig bis zum Abschluss des Verwaltungsverfahrens", die selbständige Berufsausübung als Arzt insgesamt, was die Leistung von Notfalldienst und die Führung einer Patientenapotheke notwendigerweise mitumfasst. Umso mehr gilt dies seit der materiellen Anordnung des auf 24 Monate befristeten Berufsausübungsverbotes mit der Verfügung Nr. 032/15 vom 13. Februar 2015.
Ebenfalls ist nicht ersichtlich, dass diese beiden damals verfahrensleitend als vorsorgliche Massnahmen angeordneten Verbote der Leistung von Notfalldienst bzw. der Führung einer Patientenapotheke nach Ablauf der materiell angeordneten Sanktion bzw. nach der vorinstanzlichen Feststellung von deren Unverhältnismässigkeit wieder aufleben und den Beschwerdeführer damit nach wie vor beschweren würden. Dem angefochtenen Urteil des Verwaltungsgerichts lässt sich jedenfalls nichts dergleichen entnehmen. Wohl bestätigte die Vorinstanz in Dispositivziffer 1.1 Absatz 2 die "Rechtmässigkeit des vom Amt für Gesundheit und Soziales mit der Verfügung Nr. 109/13 vom 24. Mai 2013 gegenüber dem Beschwerdeführer ausgesprochenen Verbots der Leistung von Notfalldienst und Verbots der Führung einer Patientenapotheke unter eigener Verantwortung (Selbstdispensation), welche in der Verfügung Nr. 032/15 vom 13. Februar 2015 aufging". Doch selbst wenn diese Formulierung etwas kryptisch erscheinen mag, so ergibt sich jedenfalls aus der Begründung der Vorinstanz unzweifelhaft, dass sich diese Beurteilung nur auf die Vergangenheit bezieht und für die Zeit nach dem Ablauf des befristeten Berufsausübungsverbotes keine Wirkung entfaltet. Nachdem es die Unverhältnismässigkeit des zweijährigen Berufsausübungsverbotes festgehalten hatte, führte das Verwaltungsgericht in E. 7.2 S. 48 des angefochtenen Entscheids nämlich was folgt aus: "Dies bedeutet indessen nicht, dass jegliche Disziplinarmassnahme als rechtswidrig zu bezeichnen wäre. Als verhältnismässig zu bestätigen ist sowohl das Verbot des Notfalldienstes sowie der Selbstdispensation als Teile des Tätigkeitsspektrums. Diese beiden Verbote gingen im Verbot der selbständigen Berufsausübung für zwei Jahre auf. Dabei ist nach dem Dahinfallen des Verbotes der selbständigen Berufsausübung per 8. Mai 2016 nicht mehr relevant, ob ein solches Verbot für einen Teil des Tätigkeitsspektrums für die Dauer von zwei Jahren (ab dem Zeitpunkt der Verfügung Nr. 109/13 vom 24.5.2013 bzw. deren Rechtskraft) oder für eine längere oder kürzere Dauer zu verhängen gewesen wäre". Die Vorinstanz bestätigte in ihrer Vernehmlassung an das Bundesgericht denn auch ausdrücklich, dass sich ihre Feststellungen betreffend der Verbote der Leistung von Notfalldienst und der Führung einer Patientenapotheke unter eigener Verantwortung (Selbstdispensation) ausschliesslich auf den Zeitraum bis und mit dem 8. Mai 2016 beziehen (Sachverhalt lit. C hiervor). Schliesslich ist ebenfalls weder ersichtlich noch wird behauptet, dass diese Verbote nach wie vor in einem Register eingetragen wären.
1.4. Schliesslich kann auch kein fortbestehendes Rechtsschutzinteresse in der beiläufigen Äusserung der Vorinstanz erkannt werden, dass anstelle des unverhältnismässigen zweijährigen Berufsausübungsverbotes "weniger eingreifende mildere Massnahmen (z.B. Verwarnung und Verweis i.S. von Art. 43 Abs. 1 lit. a und b MedBG oder Auflagen/Verpflichtungen zu spezifischen Weiterbildungen) " zur Verfügung gestanden hätten (E. 7.3 des angefochtenen Entscheids). Bei dieser im Konjunktiv gehaltenen Bemerkung handelt es sich offensichtlich um eine hypothetische, retrospektive Betrachtungsweise, zumal das Verwaltungsgericht weder selbst solche Massnahmen pro futuro anordnete, noch die Angelegenheit zur entsprechenden Prüfung oder Anordnung an seine Vorinstanzen zurückwies. Schliesslich ist auch keine der Voraussetzungen gegeben, unter denen trotz Wegfalls der aktuellen Interessen auf die Beschwerde einzutreten wäre (vorne E. 1.1).
2.
Nach dem Ausgeführten ist auf die Beschwerde nicht einzutreten.
Bei diesem Ausgang des Verfahrens hat der Beschwerdeführer die Gerichtskosten zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Die Gerichtskosten in Höhe von Fr. 3'000.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Schwyz, Kammer III, und dem Eidgenössischen Departement des Innern schriftlich mitgeteilt.
Lausanne, 1. September 2017
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Seiler
Der Gerichtsschreiber: Zähndler