Sachverhalt:
A.
Die A._ AG und die B._ AG sind Eigentümerinnen der Grundstücke Nr. 150, Nr. 780 und Nr. 782 (alle GB Vitznau). Das Grundstück Nr. 150 liegt gemäss dem geltenden Bau- und Zonenreglement der Gemeinde Vitznau in der Kur- und Sportzone, die Grundstücke Nr. 780 und Nr. 782 liegen in der zweigeschossigen Wohnzone B und innerhalb des Perimeters des Gestaltungsplans Grabacher.
Am 20. Mai 2015 reichten die A._ AG und die B._ AG beim Gemeinderat Vitznau ein Baugesuch für den Neubau eines Gebäudes mit Personalwohnungen/Apart-Hotel (GB Nr. 150), eines Wohnhauses (GB Nr. 782) sowie einer Autoeinstellhalle unter den genannten Grundstücken ein. Dagegen wurden während der Auflagefrist diverse Einsprachen erhoben.
Die Dienststelle Raum und Wirtschaft des Kantons Luzern erteilte mit Entscheid vom 14. Juli 2016 die notwendigen kantonalen Bewilligungen unter Auflagen und Bedingungen. Mit Entscheid vom 9. August 2016 genehmigte der Gemeinderat Vitznau das Baugesuch, erteilte die notwendigen (Ausnahme-) Bewilligungen unter Auflagen und Bedingungen und wies die Einsprachen ab.
Dagegen erhoben C._ mit Eingabe vom 1. September 2016, D._ und E._ sowie F._ und G._ und die Erbengemeinschaft H._ (bestehend aus: I._, J._, K._ und L._) mit Eingabe vom 7. September 2016 Beschwerden beim Kantonsgericht Luzern. Dieses hiess die Beschwerden teilweise gut, hob den Entscheid des Gemeinderats vom 9. August 2016 auf und wies die Sache zur weiteren Abklärung und neuen Beurteilung im Sinn der Erwägungen an den Gemeinderat Vitznau zurück.
B.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 29. Dezember 2017 an das Bundesgericht beantragen die A._ AG und die B._ AG, das Urteil des Kantonsgerichts Luzern vom 8. November 2017 sei aufzuheben und es sei der vorinstanzliche Entscheid des Gemeinderats Vitznau vom 9. August 2016 zu bestätigen. Eventualiter sei die Sache zur Neubeurteilung an den Gemeinderat zurückzuweisen.
C._ (Beschwerdegegnerin 1), D._ und E._ (Beschwerdegegner 2) sowie F._ und G._ (Beschwerdegegner 3) beantragen, auf die Beschwerde sei nicht einzutreten. Die Erbengemeinschaft H._ (Beschwerdegegnerin 4) stellt den Antrag, die Beschwerde sei abzuweisen, soweit darauf einzutreten sei. Das Kantonsgericht verzichtet auf eine Vernehmlassung und beantragt die Abweisung der Beschwerde. Die Dienststelle Raum und Wirtschaft verzichtet ebenfalls auf eine Vernehmlassung. Der Gemeinderat beantragt, die Beschwerde gutzuheissen.
Erwägungen:
1.
1.1. Dem angefochtenen Urteil der Vorinstanz liegt eine baurechtliche Streitigkeit und damit eine öffentlich-rechtliche Angelegenheit zugrunde. Das Bundesgerichtsgesetz enthält auf dem Gebiet des Raumplanungs- und Baurechts keinen Ausschlussgrund von der Beschwerde in öffentlich-rechtlichen Angelegenheiten (Art. 82 lit. a und Art. 83 BGG). Die Beschwerdeführerinnen haben am vorinstanzlichen Verfahren teilgenommen und sind als Baugesuchstellerinnen zur Beschwerde berechtigt (Art. 89 Abs. 1 BGG).
1.2.
1.2.1. Als Ergebnis des kantonalen Verfahrens ist das Baugesuch an den Gemeinderat zur weiteren Abklärung und neuen Beurteilung im Sinne der Erwägungen zurückgewiesen worden (vgl. Dispositiv-Ziffer 2 des angefochtenen Entscheids). Die Vorinstanz hat festgehalten, der Gemeinderat sei bei der Beurteilung der diversen Ausnahmebewilligungen seiner Begründungspflicht nicht nachgekommen (vgl. u.a. E. 9.3.2 des angefochtenen Entscheids betreffend Autoeinstellhalle, E. 10.5.5.2 betreffend Unterschreitung des Gebäudeabstands). Weiter hat die Vorinstanz erwogen, der Gemeinderat habe zu überprüfen, welche Überbauungsziffer zur Anwendung komme und die notwendigen Berechnungen vorzunehmen (vgl. E. 11.4.2.2 und 11.4.3 des angefochtenen Entscheids).
1.2.2. Rückweisungsentscheide sind grundsätzlich Zwischenentscheide (vgl. BGE 142 II 20 E. 1.2 S. 23 f. mit Hinweis), davon gehen auch die Beschwerdeführerinnen aus. Sie sind jedoch der Auffassung, beim angefochtenen Rückweisungsentscheid sei von einem Endentscheid auszugehen, da dem Gemeinderat keinerlei Entscheidungsspielraum mehr verbleibe, was gemäss der Rechtsprechung ausnahmsweise die Gleichstellung mit einem Endentscheid zur Folge habe. Die Vorinstanz habe dem Gemeinderat insbesondere betreffend die Anzahl der bewilligungsfähigen Parkplätze sowie der Berechnung der Nutzungsmasse jeglichen Entscheidungsspielraum genommen.
1.2.3. Wenn der unteren Instanz, an welche die Sache zurückgewiesen wird, kein Entscheidungsspielraum mehr verbleibt und die Rückweisung nur noch der (rechnerischen) Umsetzung des oberinstanzlich Angeordneten dient, handelt es sich bei diesem nicht um einen Zwischenentscheid, sondern - materiell betrachtet - um einen Endentscheid (vgl. BGE 142 II 20 E. 1.2 S. 24 mit Hinweisen). Vorliegend hat sich die Vorinstanz aber entgegen der Auffassung der Beschwerdeführerinnen nicht bereits dermassen festgelegt, dass dem Gemeinderat überhaupt kein Beurteilungsspielraum mehr verbleibt. So hat sich die Vorinstanz nicht materiell mit den Voraussetzungen der Ausnahmebewilligungen auseinandergesetzt, sondern lediglich festgehalten, der Gemeinderat habe nicht bzw. ungenügend begründet, weshalb er davon ausgehe, die Voraussetzungen der Ausnahmebewilligungen seien erfüllt. Die Vorinstanz hat diesbezüglich die Sache zur weiteren Abklärung respektive Begründung zurückgewiesen und nicht eine eigenständige Interessenabwägung vorgenommen.
Die Beschwerdeführerinnen weisen im Übrigen zu Recht darauf hin, die Vorinstanz habe sich bei ihrer Beurteilung auf die Bestimmungen des revidierten Zonenplans sowie des neuen Bau- und Zonenreglements der Gemeinde Vitznau gestützt. Da die Ortsplanungsrevision vom Stimmvolk am 26. November 2017 jedoch abgelehnt wurde, wird der Gemeinderat die etwaigen Ausnahmebewilligungen und die Parkplatzberechnung ohnehin auf der Grundlage des bisherigen Zonenplans sowie des "alten" Bau- und Zonenreglements prüfen und somit vom angefochtenen Entscheid der Vorinstanz - insbesondere von deren vorläufigen Berechnung gestützt auf das neue Bau- und Zonenreglement - abweichen müssen.
Die Vorinstanz hält sodann im angefochtenen Entscheid ausdrücklich fest, ihre Ausführungen hätten nicht als abschliessend zu gelten und der Gemeinderat habe unter anderem auch neu zu beurteilen, ob die durch die Rückweisung veranlassten relevanten Projektanpassungen mit der Denkmalpflege vereinbar seien (vgl. E. 13.2.4.3).
1.2.4. Dem Gemeinderat kommt nach dem Gesagten sowohl bei der Beurteilung der erforderlichen Ausnahmebewilligungen für die Autoeinstellhalle und für die Unterschreitung des Gebäudeabstandes, der Festsetzung der zulässigen Nutzungsmasse in der Kur- und Sportzone sowie der Festlegung der zulässigen Parkplatzzahl immer noch ein erheblicher Entscheidungsspielraum zu. Wie die Abklärungen des Gemeinderats schliesslich tatsächlich ausfallen, ist zum jetzigen Zeitpunkt noch offen. Die Vorinstanz hat dem Gemeinderat keine abschliessenden verbindlichen materiell-rechtlichen Vorgaben gemacht. Der Rückweisungsentscheid schliesst somit das Verfahren nicht ab und stellt einen Zwischenentscheid dar.
1.3. Unter dem Vorbehalt der hier nicht betroffenen Fälle von Art. 92 BGG ist die Beschwerde gegen einen selbständig eröffneten Zwischenentscheid im Gebiet des Baurechts nur nach den Anforderungen von Art. 93 Abs. 1 BGG zulässig. Die Eintretensvoraussetzungen von Art. 93 Abs. 1 BGG sollen das Bundesgericht entlasten; dieses soll sich möglichst nur einmal mit einer Sache befassen (BGE 143 III 290 E. 1.3 S. 294 mit Hinweis).
1.3.1. Gemäss Art. 93 Abs. 1 lit. a BGG ist eine direkte Anfechtbarkeit des Zwischenentscheids gegeben, wenn dieser einen nicht wieder gutzumachenden Nachteil bewirken kann. Ein nicht wieder gutzumachender Nachteil im Sinne von Art. 93 Abs. 1 lit. a BGG liegt vor, wenn dieser auch mit einem für die beschwerdeführende Partei günstigen Endentscheid nicht oder nicht vollständig behebbar ist; hingegen genügt die blosse Verlängerung oder Verteuerung des Verfahrens nicht. Dabei muss nicht feststehen, dass ein nicht wieder gutzumachender Nachteil eintritt; die blosse Möglichkeit eines solchen genügt (vgl. BGE 141 III 395 E. 2.5 S. 400 mit Hinweisen).
Die Beschwerdeführerinnen erblicken den nicht wieder gutzumachenden Nachteil darin, dass die Vorinstanz dem Gemeinderat materiellrechtliche Vorgaben gemacht habe. Wie bereits ausgeführt, trifft dieser Einwand nicht zu (vgl. E. 1.2 hiervor). Im Übrigen können die Beschwerdeführerinnen nach der angeordneten Neubeurteilung den Entscheid des Gemeinderats beim Kantonsgericht anfechten, die Angelegenheit schliesslich an das Bundesgericht weiterziehen und ihre Rügen erneut vorbringen. Es ist somit nicht ersichtlich, inwiefern der angefochtene Entscheid einen nicht wieder gutzumachenden Nachteil bewirken soll.
1.3.2. Entgegen der Darstellung der Beschwerdeführerinnen kann das Bundesgericht in der vorliegenden Sache mit einer Gutheissung der Beschwerde auch nicht sofort gemäss Art. 93 Abs. 1 lit. b BGG einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit und Kosten für ein weitläufiges Beweisverfahren ersparen (zum Erfordernis der rechtsgenüglichen Begründung vgl. Art. 42 Abs. 2 Satz 1 BGG; siehe dazu statt vieler Urteil 8C_75/2018 vom 13. Juli 2018 E. 1.3.1).
Die Vorinstanz hat bei ihrem Rückweisungsentscheid die Beurteilung der Voraussetzungen der Ausnahmebewilligungen und die Festsetzung der Nutzungsziffern offen gelassen, so dass das Bundesgericht nicht sofort über die Zulässigkeit des Vorhabens befinden kann. Die Beschwerdeführerinnen zeigen zudem nicht rechtsgenüglich auf, inwiefern durch eine sofortige Gutheissung des Entscheids ein bedeutender Aufwand an Zeit und Kosten für ein weitläufiges Beweisverfahren erspart werden kann, was überdies auch nicht ersichtlich ist. Weder die Prüfung der verschiedenen Ausnahmebewilligungen noch die Festsetzung der Nutzungsziffern bedingen ein aufwändiges Beweisverfahren und stellen keine weitläufigen Beweismassnahmen dar. Ein nicht wieder gutzumachender Nachteil ist auch diesbezüglich zu verneinen.
2.
Damit ist auf die Beschwerde nicht einzutreten. Bei diesem Ausgang des Verfahrens sind die Gerichtskosten den Beschwerdeführerinnen unter solidarischer Haftung aufzuerlegen (Art. 66 Abs. 1 und 5 BGG). Diese haben zudem den privaten, anwaltlich vertretenen Beschwerdegegnern eine angemessene Parteientschädigung zu bezahlen (Art. 68 Abs. 2 BGG). Der Gemeinderat handelt in seinem amtlichen Wirkungskreis und hat daher keinen Anspruch auf eine Parteientschädigung (Art. 68 Abs. 3 BGG).
Demnach erkennt das Bundesgericht:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Die Gerichtskosten von Fr. 1'000.-- werden den Beschwerdeführerinnen unter solidarischer Haftung auferlegt.
3.
Die Beschwerdeführerinnen haben die Beschwerdegegner 1 und 4 für das bundesgerichtliche Verfahren mit je Fr. 1'000.-- und die Beschwerdegegner 2 und 3 mit je Fr. 500.-- (insgesamt Fr. 3'000.--) zu entschädigen, unter solidarischer Haftung.
4.
Dieses Urteil wird den Parteien, dem Gemeinderat Vitznau, dem Bau-, Umwelt- und Wirtschaftsdepartement, Dienststelle Raum und Wirtschaft, und dem Kantonsgericht Luzern, 4. Abteilung, schriftlich mitgeteilt.
Lausanne, 3. September 2018
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Merkli
Die Gerichtsschreiberin: Sauthier