Sachverhalt:
A.
A.a. Gemäss § 1 des Gesetzes [des Kantons Schwyz] vom 10. September 1970 über die Erhebung einer Kurtaxe durch die Gemeinden (aKTG) können letztere eine Kurtaxe verlangen (Abs. 1), welche ausschliesslich zur Förderung des Fremdenverkehrs zu verwenden ist (Abs. 2), wobei die Gemeinden unter Vorbehalt gewisser Bestimmungen in der Ausgestaltung der Kurtaxe frei sind (Abs. 3). Das aKTG wurde per 1. Januar 2017 aufgehoben und durch das Kurtaxengesetz vom 14. September 2016 ersetzt (KTG; SRSZ 314.100), ist jedoch vorliegend materiell anwendbar, da die Kurtaxen des Steuerjahres 2016 strittig sind. Laut § 2 aKTG ist kurtaxenpflichtig, wer unter anderem in Hotels oder Ferienwohnungen entgeltlich Gäste beherbergt, wobei die Abgabe auf den Gast abgewälzt werden kann (Abs. 1 und 3). Die Gemeinden sind zudem befugt, die Kurtaxe auf weitere Personen auszudehnen, namentlich auf dinglich Berechtigte von Ferienhäusern und Ferienwohnungen (Abs. 2). Bei dieser Kategorie geht es primär um Eigentümer von Ferienhäusern und -wohnungen, welche ihre Liegenschaft als Feriendomizil selbst nutzen. Gemäss § 2 Abs. 4 aKTG darf die Kurtaxe unter anderem von Personen, die steuerrechtlichen Wohnsitz in der Gemeinde haben, nichterhoben werden. Die Gemeindeversammlung hat ein Reglement zu erlassen, welches insbesondere die Abgabepflicht, die Höhe der Kurtaxe, deren Verwendung, Veranlagung und Einzug regelt (§ 3 Abs. 1 aKTG).
A.b. Die Gemeinde Muotathal (Kanton Schwyz) hat von der genannten Ausdehnungsmöglichkeit des aKTG Gebrauch gemacht und in ihrem hier anwendbaren Kurtaxen-Reglement vom 14. Juni 2015 (nachfolgend: Reglement; Inkrafttreten 1. Januar 2016) festgehalten (Art. 2 Abs. 2), dass Kurtaxen als Zweitwohnungskurtaxen von an einer Unterkunft dinglich zur Nutzung berechtigten Personenerhoben werden, sofern die Unterkunft nicht der Übernachtung von Personen dient, welche in der Gemeinde Muotathal ihren steuerrechtlichen Wohnsitz haben und sofern nicht der Abgabetatbestand von Art. 2 Abs. 1 erfüllt ist (u. a. entgeltliche Beherbergung in privaten Ferienzimmern, wobei auch diesbezüglich für beherbergte Personen mit steuerrechtlichem Wohnsitz in der Gemeinde Muotathal keine Kurtaxe abzuliefern ist). Gemäss Reglement müssen somit ihr Ferienhaus oder ihre Ferienwohnung (nachfolgend für beides: Ferienunterkunft) selbst nutzende Eigentümer ohne steuerrechtlichen Wohnsitz in der Gemeinde Muotathal eine Kurtaxe bezahlen, während Eigentümer einer Ferienunterkunft mit steuerrechtlichem Wohnsitz in derselben Gemeinde von dieser Abgabe ausgenommen sind. Die entsprechende, jährliche Kurtaxe beträgt Fr. 5.-- pro m2 Nettowohnfläche (Art. 3 Abs. 1 lit. b Reglement).
B.
A.C._ und B.C._ (Wohnsitz Dulliken), D._ (Wohnsitz Unterengstringen) und E._ (Wohnsitz Weggis) sind je Eigentümer (bzw. erstere Miteigentümer) einer Ferienunterkunft in der Gemeinde Muotathal und erhielten im November 2016 je eine Rechnung mit Rechtsmittelbelehrung für eine Zweitwohnungskurtaxe (A.C._ und B.C._ Fr. 341.50; D._ Fr. 410.--; E._ Fr. 150.--) betreffend das Steuerjahr 2016. Die jeweils dagegen erhobenen Einsprachen wurden mit Einspracheentscheiden des Gemeinderates Muotathal vom 26. Januar 2017 abgewiesen. Letztere wurden von den genannten Parteien je mit Beschwerde beim Verwaltungsgericht des Kantons Schwyz angefochten. Das Verwaltungsgericht vereinigte die Verfahren und hiess die Beschwerden unter Aufhebung der Einspracheentscheide mit Entscheid vom 23. Mai 2017 gut.
C.
Die Gemeinde Muotathal (Beschwerdeführerin) erhebt mit Eingabe vom 4. August 2017 Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht und beantragt die Aufhebung des vorinstanzlichen Entscheides. A.C._ und B.C._, D._ und E._ (Beschwerdegegner) ersuchen mit Beschwerdeantwort vom 25. September 2017 um Abweisung der Beschwerde, eventualiter um Rückweisung an die Vorinstanz zur Neubeurteilung, unter Kosten- und Entschädigungsfolge zu Lasten der Beschwerdeführerin. Die Beschwerdeführerin repliziert, die Beschwerdegegner duplizieren. Die Vorinstanz kommentiert vernehmlassend die von der Beschwerdeführerin vor Bundesgericht eingereichten Kurtaxenreglemente anderer Gemeinden.

Erwägungen:
1.
1.1. Die Beschwerdeführerin rügt in ihrer Beschwerde die Verletzung der Gemeindeautonomie und beruft sich diesbezüglich auf Art. 50 Abs. 1 BV und § 69 Abs. 2 der Verfassung des Kantons Schwyz (KV SZ; SRSZ 100.100). Ausserdem rügt sie eine Verletzung des Willkürverbots (Art. 9 BV) und der Rechtsgleichheit (Art. 8 BV) sowie des daraus abgeleiteten gruppenspezifischen Äquivalenzprinzips. Die Beschwerde richtet sich gegen einen verfahrensabschliessenden, letztinstanzlichen kantonalen Entscheid (Art. 86 Abs. 1 lit. d und Abs. 2, Art. 90 BGG). Gemeinden sind nach Art. 89 Abs. 2 lit. c BGG zur Beschwerde berechtigt, wenn sie die Verletzung von Garantien rügen, die ihnen die Kantons- oder Bundesverfassung gewährt. Zu den dadurch angesprochenen Garantien zählt insbesondere die von der Bundesverfassung und vom kantonalen Recht ausdrücklich gewährleistete Gemeindeautonomie (Art. 50 Abs. 1 und Art. 189 Abs. 1 lit. e BV; § 69 Abs. 2 KV SZ; <ref-ruling> E. 1.1 S. 92; <ref-ruling> E. 1.1.3 S. 407; Urteil 2C_1021/2016 vom 18. Juli 2017 E. 2.2). Für das Eintreten auf die Beschwerde ist allein entscheidend, dass die Gemeinde durch einen Akt in ihrer Eigenschaft als Trägerin hoheitlicher Gewalt berührt ist und sich in vertretbarer Weise auf ihre Gemeindeautonomie als Beschwerdegrund beruft. Ob die beanspruchte Autonomie besteht und ob sie im konkreten Fall verletzt ist, stellt nicht eine Frage des Eintretens dar, sondern ist Gegenstand der materiellen Beurteilung (<ref-ruling> E. 1.1 S. 92 f.; <ref-ruling> E. 1.1.3 S. 407; Urteile 1C_540/2016 vom 25. August 2017 E. 1; 2C_1021/2016 vom 18. Juli 2017 E. 2.2; 2C_886/2015 vom 16. November 2016 E. 1.1).
Die Beschwerdeführerin wird durch den vorinstanzlichen Entscheid dazu verpflichtet, auf die Erhebung der Kurtaxe von in der Gemeinde Muotathal über keinen steuerrechtlichen Wohnsitz verfügenden Eigentümern einer Ferienunterkunft zu verzichten, solange in derselben Gemeinde Eigentümer einer Ferienunterkunft mit steuerrechtlichem Wohnsitz in Muotathal von der Kurtaxe befreit sind. Dadurch wird die Beschwerdeführerin gezwungen, die Erhebung der Kurtaxe anders als in ihrem Reglement vorgesehen zu erheben, und somit in ihrer Funktion als Trägerin hoheitlicher Gewalt berührt. Zudem beruft sie sich ausdrücklich auf die Gemeindeautonomie. Die Beschwerdeführerin ist deshalb zur Beschwerde berechtigt. Auf die im Übrigen form- und fristgerecht eingereichte Beschwerde ist deshalb einzutreten (Art. 42 und Art. 100 Abs. 1 BGG).
1.2. Das Bundesgericht überprüft die Handhabung von Bundesrecht und kantonalem Verfassungsrecht frei, insbesondere ob die Vorinstanz einen in den Anwendungsbereich der Gemeindeautonomie fallenden Beurteilungsspielraum respektiert hat (<ref-ruling> E. 5.4 S. 43; <ref-ruling> E. 2 S. 397). Ebenso prüft es frei, ob die gesetzliche, kommunale Ausgestaltung einer Kurtaxe mit der Rechtsgleichheit vereinbar ist (vgl. Urteile 2C_519/2016 vom 4. September 2017 E. 1.5.1; 2C_794/2015 vom 22. Februar 2016 E. 2.4 und 4). Da bei Tourismusabgaben wie der Kurtaxe regelmässig diejenigen, welche über die Abgabe beschliessen, zum grössten Teil die Abgabe nicht tragen, während umgekehrt den Abgabeträgern (mangels Wohnsitz) das Stimmrecht fehlt, rechtfertigt sich eine kritische Überprüfung der Verfassungsmässigkeit. Die Trennung von Stimmrecht und Steuerpflicht birgt die Gefahr einer systematischen Benachteiligung der auswärtigen Eigentümer (Urteile 2C_519/2016 vom 4. September 2017 E. 3.5.7; 2C_523/2015 vom 21. Dezember 2016 E. 6.1). Im Rahmen der Rechtsgleichheit und des Willkürverbots verbleibt dem Gesetzgeber allerdings bei den öffentlichen Abgaben ein weiter Spielraum der Gestaltungsfreiheit (<ref-ruling> E. 6.a S. 7; Urteile 2P.111/2002 vom 13. Dezember 2002 E. 4.2; 2P.199/2000 vom 14. Mai 2001 E. 5.d).
1.3. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat, sofern dieser nicht offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 und Art. 97 Abs. 1 BGG). Neue Tatsachen und Beweismittel (sogenannte Noven) können nur soweit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (Art. 99 Abs. 1 BGG).
2.
2.1. Nach der Rechtsprechung sind Gemeinden in einem Sachbereich autonom, wenn das kantonale Recht diesen nicht abschliessend ordnet, sondern ihn ganz oder teilweise der Gemeinde zur Regelung überlässt und ihr dabei eine relativ erhebliche Entscheidungsfreiheit einräumt. Der geschützte Autonomiebereich kann sich auf die Befugnis zum Erlass oder Vollzug eigener kommunaler Vorschriften bezie-hen oder einen entsprechenden Spielraum bei der Anwendung kantonalen oder eidgenössischen Rechts betreffen. Der Schutz der Gemeindeautonomie setzt eine solche nicht in einem ganzen Aufgabengebiet, sondern lediglich im streitigen Bereich voraus. Im Einzelnen ergibt sich der Umfang der kommunalen Autonomie aus dem für den entsprechenden Bereich anwendbaren kantonalen Verfassungs- und Gesetzesrecht (BGE <ref-ruling> E. 3.2.1 S. 397 f. mit Hinweisen; Urteil 2C_886/2015 vom 16. November 2016 E. 2).
2.2. Gemäss § 69 Abs. 2 KV SZ sind Gemeinden selbständige Körperschaften des öffentlichen Rechts und im Rahmen des übergeordneten Rechts autonom. § 1 Abs. 1 aKTG überlässt es der Gemeinde, ob sie überhaupt eine Kurtaxe erheben möchte. Ausserdem ist es gemäss § 2 Abs. 2 aKTG Sache der Gemeinde, durch entsprechende kommunale Regelung die Kurtaxenpflicht auf die Eigentümer von Ferienunterkünften auszudehnen, wobei in diesem Absatz nicht auf den steuerrechtlichen Wohnsitz Bezug genommen wird und die Gemeinde die Abgabepflicht und weitere wesentliche Punkte (z. B. Höhe der Kurtaxe) in einem Reglement regeln kann und muss (vgl. Sachverhalt lit. A.a oben). Allerdings ist fraglich, ob die Gemeinde aufgrund des aKTG die Wahl hat, von Eigentümern einer Ferienunterkunft unabhängig vom steuerrechtlichen Wohnsitz eine Kurtaxe zu verlangen, da § 2 Abs. 4 aKTG Personen mit steuerrechtlichem Wohnsitz in der Gemeinde Muotathal zumindest nach dem Wortlaut generell von der Kurtaxe ausnimmt. Insgesamt verfügt die Beschwerdeführerin im streitigen Bereich jedoch über genügend Entscheidungsfreiheit, da sie die Kurtaxe in wichtigen Punkten selbst regeln kann, sodass sie diesbezüglich autonom ist.
3.
3.1. Die vorliegende Regelung der Kurtaxe hat jedoch der verfassungsmässigen Rechtsgleichheit (Art. 8 Abs. 1 BV) zu genügen. Bei der Kurtaxe bzw. der vorliegenden Zweitwohnungskurtaxe handelt es sich gemäss bundesgerichtlicher Rechtsprechung um eine Kostenanlastungssteuer (<ref-ruling> E. 3.b S. 291 f.; <ref-ruling> E. 4.b S. 309 f.; Urteile 2C_519/2016 vom 4. September 2017 E. 3.5.3; 2C_523/2015 vom 21. Dezember 2016 E. 3.1; 2C_794/2015 vom 22. Februar 2016 E. 3.2.2 mit Hinweisen; 2P.194/2006 vom 7. August 2006 E. 3). Letztere wird einer bestimmten Gruppe von Personen auferlegt, weil diese zu bestimmten Aufwendungen des Gemeinwesens in einer näheren Beziehung stehen als die übrigen Steuerpflichtigen. Die Kostenanlastungssteuer steht in einem Spannungsverhältnis zum Grundsatz der Allgemeinheit der Besteuerung (Art. 127 Abs. 2 BV) und setzt daher voraus, dass sachlich haltbare Gründe bestehen, die betreffenden staatlichen Aufwendungen der erfassten Personengruppe anzulasten. Zudem muss die allfällige Abgrenzung nach haltbaren Kriterien erfolgen; andernfalls verletzt die Abgabe das Gleichheitsgebot (<ref-ruling> E. 2.3.2 S. 288 f.; <ref-ruling> E. 3.b S. 292; Urteile 2C_523/2015 vom 21. Dezember 2016 E. 3.1; 2C_794/2015 vom 22. Februar 2016 E. 3.3.1; 2P.199/2000 vom 14. Mai 2001 E. 2.c). Anders ausgedrückt verletzt eine Regelung den Grundsatz der Rechtsgleichheit, wenn sie rechtliche Unterscheidungen trifft, für die ein vernünftiger Grund in den zu regelnden Verhältnissen nicht ersichtlich ist, oder Unterscheidungen unterlässt, die sich aufgrund der Verhältnisse aufdrängen - wenn Gleiches nicht nach Massgabe seiner Gleichheit gleich oder Ungleiches nicht nach Massgabe seiner Ungleichheit ungleich behandelt wird. Vorausgesetzt wird, dass sich der unbegründete Unterschied oder die unbegründete Gleichstellung auf eine wesentliche Tatsache bezieht. Die Frage, ob für eine rechtliche Unterscheidung ein vernünftiger Grund in den zu regelnden Verhältnissen ersichtlich ist, kann zu verschiedenen Zeiten verschieden beantwortet werden, je nach den herrschenden Anschauungen und Verhältnissen (<ref-ruling> E. 4.2 S. 579 f.; <ref-ruling> E. 3.6.1 S. 229 f.; <ref-ruling> E. 6.a S. 7; Urteil 2P.111/2002 vom 13. Dezember 2002 E. 4 - 2).
3.2. Die Beschwerdeführerin macht unter Bezugnahme auf die bundesgerichtliche Rechtsprechung im Wesentlichen geltend, Personen ohne steuerrechtlichen Wohnsitz in der Gemeinde seien Gäste bzw. Touristen. Für diese und nicht für die Ortseinwohner seien die Tourismusanlagen erstellt worden. Die Gäste sorgten umgekehrt mit der Kurtaxe für die Spezialfinanzierung der Tourismusanlagen. Selbstnutzende Zweitwohnungseigentümer (bzw. Eigentümer einer Ferienunterkunft) ohne steuerrechtlichen Wohnsitz in der Gemeinde seien im Gegensatz zu Ortseinwohnern Gäste. Wenn für eine Unterscheidung ein vernünftiger Grund bestehe, bleibe dem Gesetzgeber ein weiter Spielraum der Gestaltungsfreiheit, in den nicht schon dann eingegriffen werden könne, wenn eine andere Lösung aus verfassungsrechtlicher Sicht besser wäre, sondern erst, wenn die getroffene Lösung unhaltbar erscheine. Das Abgrenzungskriterium des steuerrechtlichen Wohnsitzes sei eine sachlich gut abgestützte Unterscheidung. Die Beschwerdeführerin zähle damit Ortseinwohner mit Zweitwohnungseigentum zum Kreis der (von der Kurtaxe befreiten) Ortseinwohner und nicht zum Kreis der Gäste. Die Vorinstanz habe diesbezüglich in die relative Entscheidungsfreiheit der Beschwerdeführerin eingegriffen. Sie habe nun zwei Kategorien von Ortsansässigen geschaffen, nämlich eine solche mit und eine solche ohne selbstgenutzte Zweitwohnung im Gemeindegebiet. Der Ortsansässige mit Zweitwohnung im Gemeindegebiet solle gemäss Vorinstanz Gast im eigenen Dorf sein, obwohl die Tourismusanlagen für Touristen und nicht für Ortseinwohner geschaffen worden seien. Die Vorinstanz habe in sachwidriger Weise das Urteil 2C_794/2015 vom 22. Februar 2016, wonach es rechtsungleich sei, wenn Zweitwohnungseigentümer mit ausserkantonalem Steuerwohnsitz der Tourismusabgabe unterstellt seien, nicht aber Zweitwohnungseigentümer mit Steuerwohnsitz im Kanton (Obwalden), auf die Gemeindeebene übertragen. Der Feststellung der Rechtsungleichheit in diesem Urteil sei zuzustimmen, denn wer in einem Teil des Kantons seinen Wohnsitz habe, könne sich in einem anderen Teil des Kantons sehr wohl als Gast aufhalten. Die Tourismusanlagen der Beschwerdeführerin seien jedoch auch für Ortsansässige mit selbstgenutzter Zweitwohnung nichterstellt worden, sondern für herkömmliche Feriengäste. Durch den vorinstanzlichen Entscheid werde die Kurtaxe als Sondersteuer sachwidrig auf einen Teil der Ortseinwohner ausgeweitet. Insgesamt werde dadurch das gruppenspezifische Äquivalenzprinzip bei Kostenanlastungssteuern bzw. die Rechtsgleichheit verletzt. Umgekehrt sei es aber auch nicht korrekt, sämtliche Zweitwohnungseigentümer unabhängig vom Wohnsitz von der Kurtaxe auszunehmen, denn Gäste als Zweitwohnungseigentümer sollten zur Finanzierung der für sie erstellten Einrichtungen beitragen, abgesehen davon dass mit einer vollständigen Befreiung (aller Zweitwohnungseigentümer) eine unrechtmässige Ungleichbehandlung gegenüber Hotel- und Pensionsgästen entstehen würde.
Laut Beschwerdeführerin stellt die Vorinstanz in sachwidriger Weise darauf ab, dass der ortsansässige Zweitwohnungseigentümer eine grössere Ferien- und Freizeitmöglichkeit gegenüber dem ortsansässigen Nicht-Zweitwohnungseigentümer habe bzw. auf die Nutzungsintensität als neues Abgrenzungskriterium. Es werde unterstellt, dass sich ein Zweitwohnungseigentümer unabhängig vom Wohnsitz intensiver erhole als ein ortsansässiger Nicht-Zweitwohnungseigentümer. Das Kriterium des Zweitwohnungseigentums genüge nicht zur Abgrenzung. Insgesamt sei damit auch das Willkürverbot (Art. 9 BV) verletzt.
3.3. Die Beschwerdegegner führen dagegen aus, die Kurtaxe als Sondersteuer werde einer bestimmten Gruppe von Personen wegen deren näherer Beziehung zu den Aufwendungen des Gemeinwesens auferlegt. Für die Gruppenzugehörigkeit gebe es verschiedene Indizien, unter anderem das Entspannungs- und Erholungsmotiv für einen Aufenthalt. Die Ortsansässigkeit alleine sei noch kein Grund für die Kurtaxenpflicht. Eigentümer von Ferienhäusern seien jedoch gemäss Rechtsprechung kurtaxenpflichtig, weil sie von den touristischen Anlagen Gebrauch machen könnten. Der einheimische Ferienhauseigentümer halte sich ebenfalls zur Erholung in seinem Ferienhaus auf und könne das touristische Angebot in seinen Ferien genau gleich wie sein auswärtiger Nachbar nutzen, weshalb sich der ortsansässige Ferienhauseigentümer in den Personenkreis mit besonderer Beziehungsnähe zu den touristischen Anlagen einreihe. Wer in seiner Wohngemeinde noch eine Zweitwohnung für Ferien nutze, sei Gast im eigenen Dorf. Es sei mit dem Rechtsgleichheitsgebot unvereinbar, Liegenschaftseigentümer ohne Steuerwohnsitz in der Gemeinde der Kurtaxenpflicht zu unterstellen, während Personen bei gleichem Sachverhalt und Aufenthaltszweck mit Steuerwohnsitz in der Gemeinde nicht kurtaxenpflichtig seien.
3.4. Das Bundesgericht hat sich in <ref-ruling> (Flims) mit der Rechtsgleichheit zwischen auswärtigen Ferienhauseigentümern und Ortsansässigen ohne Ferienhaus in der Gemeinde auseinandergesetzt und Zweifel angemeldet, ob es mit der Rechtsgleichheit vereinbar ist, die Kurtaxe ausschliesslich von Personen ohne Wohnsitz in der Gemeinde zu verlangen. Die unbeschränkte Steuerpflicht der Ortsansässigen erachtete es nicht als Argument für die Beschränkung der Kurtaxenpflicht. Ausschlaggebend war, dass die Tourismusanlagen in erster Linie wegen der Gäste geschaffen wurden und nicht wegen der einheimischen Bevölkerung, jedenfalls nicht im gleichen Umfang. Zudem könnten Ferienhauseigentümer genau gleich wie herkömmliche Gäste (Hotelgäste) die Tourismusanlagen nutzen, wobei Einheimische die Anlagen ebenfalls beanspruchen könnten, aber wegen ihrer beruflichen Inanspruchnahme in der Regel doch nicht so intensiv wie Gäste, die in der Gemeinde die Ferien verbringen (<ref-ruling> E. 5 S. 99 f.). Auch in einem ein Jahr später getroffenen Entscheid (Grindelwald, Entscheid vom 22. September 1965, wiedergegeben in ZBl 68/1967 S. 185 ff.) äusserte das Bundesgericht Bedenken, die Kurtaxe von auswärtigen Ferienhauseigentümern, nicht aber von Einheimischen (ohne Ferienhaus) zu erheben, grenzte die auswärtigen Ferienhauseigentümer aber damit ab, dass letztere die Tourismusanlagen, da sie in den Ferien seien, viel ausgiebiger in Anspruch nehmen könnten als Ortseinwohner, welche gerade in der günstigsten Zeit beruflich stark angespannt seien, wobei das Bundesgericht bemerkte, dass die einheimische Bevölkerung wegen der Hebung der Lebenshaltung die Tourismusanlagen wohl allgemein mehr als früher benutze, sich aber im Ergebnis auf die gegenteiligen Sachverhaltsfeststellungen der Vorinstanz abstützte. In <ref-ruling> (Ormont-Dessus) hat das Bundesgericht die eingeschränkte Nutzung durch Ortsansässige als Abgrenzungskriterium verworfen und als entscheidenden Gesichtspunkt darauf abgestellt, dass Tourismusanlagen primär für Gäste geschaffen werden. Es kam deshalb zum Schluss, dass es rechtsgleich ist, auswärtige Schüler, die sich ein Jahr lang während des Semesters in einer Bildungseinrichtung aufhalten, als Gäste der Kurtaxe zu unterwerfen, während Ortsansässige von der Kurtaxe befreit sind (<ref-ruling> E. 4 S. 440 ff.). Denselben Gesichtspunkt hat das Bundesgericht auch in <ref-ruling> (Einsiedeln) herangezogen und die Regelung, wonach auswärtige Ferienhauseigentümer kurtaxenpflichtig sind, während Tagesgäste (Gäste, welche nicht in Einsiedeln übernachten), welche in viel grösserer Zahl vertreten sind, nicht der Kurtaxe unterliegen, als gerade noch rechtsgleich qualifiziert (<ref-ruling> E. 2.c S. 146 f.).
In <ref-ruling> hat sich das Bundesgericht in einem Streit um die Finanzierung der allgemeinen Strassenreinigung durch die Grundeigentümer mit dem Begriff der Kostenanlastungssteuer auseinandergesetzt und festgehalten, dass es für die Erhebung der Abgabe genügt, dass die Aufwendungen des Gemeinwesens dem abgabepflichtig erklärten Personenkreis eher anzulasten sind als der Allgemeinheit, sei es, weil diese Gruppe von den Leistungen generell bzw. abstrakt stärker profitiert als andere oder weil sie abstrakt als hauptsächlicher Verursacher dieser Aufwendungen angesehen werden kann. Auf den konkreten, effektiven Nutzen der betroffenen Person wurde dagegen nicht abgestellt (<ref-ruling> E. 3.b S. 292). Diese Überlegung und die in <ref-ruling> genannten Abgrenzungskriterien sind vom Bundesgericht auch in der neuesten Rechtsprechung angewendet worden. Im Urteil 2C_794/2015 vom 22. Februar 2016 (Kanton Obwalden) hat das Bundesgericht die unterschiedliche Behandlung von Ferienhauseigentümern ohne (kurtaxenpfichtig) und mit (nicht kurtaxenpflichtig) Steuerwohnsitz im Kanton (Obwalden) primär danach geprüft, ob die Aufwendungen einer Gruppe eher anzulasten sind, weil sie von den Leistungen generell stärker profitiert als andere ("abstrakte Nutzennähe") oder weil sie als hauptsächliche Verursacherin dieser Aufwendungen angesehen werden kann ("abstrakte Kostennähe"). Anknüpfungspunkt ist die abstrakte Interessenlage, wogegen ein konkreter, besonderer Nutzen des Einzelnen nicht erforderlich ist. Zudem stellte das Bundesgericht wie bisher darauf ab, dass die mit der Kurtaxe finanzierten Einrichtungen hauptsächlich für die Touristen geschaffen wurden und für die Ortseinwohner allein nicht notwendig gewesen wären. Es kam zum Schluss, dass die Möglichkeit zur Beanspruchung des touristischen Angebots in keiner Weise davon abhängt, ob sich der (steuerrechtliche) Wohnsitz im selben Kanton wie die betroffene Gemeinde oder in einem anderen Kanton oder im Ausland befindet, sodass die unterschiedliche Behandlung der inner- und ausserkantonalen Ferienhauseigentümer die Rechtsgleichheit verletzt (Urteil 2C_794/2015 vom 22. Februar 2016 E. 3.2.3, 3.3.5, 4.2.1 - 4.2.4). Auch in den Urteilen 2C_523/2015 vom 21. Dezember 2016 (Andermatt) und 2C_519/2016 vom 4. September 2017 (Leukerbad) hat das Bundesgericht in Bezug auf die Frage, welchem Personenkreis die Aufwendungen eher anzulasten sind (sog. einfache Gruppenäquivalenz), auf die abstrakte Nutzennähe oder abstrakte Kostennähe abgestellt (Urteile 2C_519/2016 vom 4. September 2017 E. 3.5.4 und 2C_523/2015 vom 21. Dezember 2016 E. 3.1). Im Fall Andermatt hat es zudem in Abgrenzung zu den Ortsansässigen festgehalten, dass Tourismusanlagen primär im Interesse der Gäste errichtet werden und nicht in erster Linie für die einheimische Bevölkerung (Urteil 2C_523/2015 vom 21. Dezember 2016 E. 6.3).
3.5. Ortsansässige Eigentümer einer Ferienunterkunft unterscheiden sich von auswärtigen Eigentümern dadurch, dass die Tourismusanlagen nicht primär für erstere, sondern für letztere geschaffen wurden. Dies gilt auch im Vergleich zu Eigentümern, welche nicht in der betroffenen Gemeinde, aber im selben Kanton steuerrechtlichen Wohnsitz haben. Wer zwar im selben Kanton wohnt, aber zu Ferienzwecken eine andere Gemeinde aufsucht, ist in dieser Gemeinde Tourist und deshalb zurecht kurtaxenpflichtig. Diese Abgrenzung fällt mit dem Kriterium der abstrakten Kostennähe zusammen, denn hauptsächlicher Verursacher der tourismusbedingten Aufwendungen ist nicht die ortsansässige Person, selbst wenn sie in der Gemeinde auch eine Ferienunterkunft besitzt, sondern der auswärtige Eigentümer. Die tourismusbedingten Aufwendungen sind den auswärtigen Eigentümern eher anzulasten als den ortsansässigen, weil erstere abstrakt als hauptsächliche Verursacher der entsprechenden Aufwendungen angesehen werden können. Die Differenz bei der abstrakten Kostennähe genügt bereits, um die Befreiung ortsansässiger Eigentümer einer Ferienunterkunft von der Zweitwohnungskurtaxe zu rechtfertigen, während Eigentümer ohne steuerrechtlichen Wohnsitz in der Gemeinde kurtaxenpflichtig sind. Die Prüfung der abstrakten Nutzennähe erübrigt sich damit. Somit besteht ein sachlich haltbarer Grund und ein haltbares Kriterium, um die Gruppe ortsansässiger Eigentümer einer Ferienunterkunft von der Gruppe von Eigentümern, welche in der Gemeinde Muotathal keinen steuerrechtlichen Wohnsitz haben, zu unterscheiden. Die unterschiedliche Behandlung dieser beiden Gruppen in Bezug auf die Zweitwohnungskurtaxe verstösst deshalb nicht gegen das Rechtsgleichheitsgebot (Art. 8 Abs. 1 BV).
3.6. Zudem ist zu berücksichtigen, dass der Gemeinde bzw. Beschwerdeführerin bei den Abgaben und damit auch den Kostenanlastungssteuern ein weiter Gestaltungsspielraum zusteht. Diesen hat die Beschwerdeführerin durch eine in der Sache haltbare Abgrenzung ausgefüllt. Der vorinstanzliche Entscheid schränkt den Gestaltungsspielraum der Gemeinde übermässig ein. Im Weiteren verfügt die Beschwerdeführerin bei der Regelung der Kurtaxe über eine relativ erhebliche Entscheidungsfreiheit. Sie hat eine vernünftige und sachlich vertretbare Regelung getroffen. Der vorinstanzliche Entscheid beschränkt diese Entscheidungsfreiheit in einem unnötigen Ausmass und verletzt deshalb die Gemeindeautonomie.
3.7. Demzufolge ist es zulässig, Eigentümer von selbst genutzten Ferienunterkünften in Muotathal mit steuerrechtlichem Wohnsitz in der Gemeinde Muotathal von der Zweitwohnungskurtaxe zu befreien und gleichzeitig Eigentümern einer Ferienunterkunft in Muotathal ohne steuerrechtlichen Wohnsitz in der Gemeinde Muotathal der Zweitwohnungskurtaxe zu unterstellen. Die Beschwerde ist deshalb gutzuheissen, der vorinstanzliche Entscheid ist aufzuheben und die Einspracheentscheide des Gemeinderates Muotathal vom 26. Januar 2017 sind zu bestätigen
4.
4.1. Die Kosten des bundesgerichtlichen Verfahrens sind nach dem Unterliegerprinzip zu verteilen (Art. 65, Art. 66 Abs. 1 BGG). Die Gerichtskosten sind deshalb den Beschwerdegegnern aufzuerlegen, welche diese zu gleichen Teilen (auf jede beschwerdegegnerische Partei entfällt ein Drittel) und unter solidarischer Haftung tragen (Art. 66 Abs. 5 BGG).
4.2. Da die Beschwerdeführerin in ihrem amtlichen Wirkungskreis obsiegt hat, steht ihr keine Parteientschädigung zu (Art. 68 Abs. 3 BGG).
4.3. Die Kosten- und Entschädigungsfolgen des vorinstanzlichen Verfahrens sind infolge Gutheissung der Beschwerde durch die Vorinstanz neu festzulegen.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen. Der Entscheid des Verwaltungsgerichts des Kantons Schwyz, Kammer II, vom 23. Mai 2017 wird aufgehoben und die Einspracheentscheide des Gemeinderates Muotathal vom 26. Januar 2017 werden bestätigt.
2.
Die Kosten des bundesgerichtlichen Verfahrens von Fr. 3'000.-- werden den Beschwerdegegnern auferlegt. Letztere tragen diese Kosten zu gleichen Teilen unter solidarischer Haftung.
3.
Die Beschwerdeführerin hat für das bundesgerichtliche Verfahren keinen Anspruch auf Parteientschädigung.
4.
Die Sache wird zur Neuverlegung der Kosten- und Entschädigungsfolgen des vorinstanzlichen Verfahrens an die Vorinstanz zurückgewiesen.
5.
Dieses Urteil wird den Parteien und dem Verwaltungsgericht des Kantons Schwyz, Kammer II, schriftlich mitgeteilt.
Lausanne, 8. Oktober 2018
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Seiler
Der Gerichtsschreiber: Quinto