Sachverhalt:
A. A.a Der Gemeinderat Vitznau genehmigte am 13. Juni 2006 den privaten Gestaltungsplan "Huse" auf dem Grundstück Nr. 235 in Vitznau; der Plan umfasste den Bau von 43 Wohneinheiten (wovon 18 Einfamilienhäuser und 25 Terrassenhäuser). Am 29. Juni 2006 kaufte die Z._ AG das Grundstück. Davon wurden die Einzelgrundstücke Nr. 748-766 (für den Bau der Einfamilienhäuser) abparzelliert und auf der verbleibenden Stammparzelle Nr. 235 Stockwerkeigentumseinheiten gebildet. Am 8. Juni 2007 verkaufte die Z._ AG das abparzellierte Grundstück Nr. 750 an X._. Dieser verkaufte es am 21. Dezember 2007 an die Y._ AG, deren Verwaltungsrat und Alleinaktionär er ist.
Am 21. Juli 2010 stellte der Regierungsstatthalter der Ämter Hochdorf und Luzern fest, dass die Z._ AG für den Kauf des Grundstücks Nr. 235 einer Bewilligung nach dem Bundesgesetz vom 16. Dezember 1983 über den Erwerb von Grundstücken durch Personen im Ausland (BewG; SR 211.412.41) bedurft hätte und dass diese Bewilligung auch nachträglich nicht erteilt werden könne. Mit rechtskräftigem Urteil vom 22. Februar 2011 bestätigte das Verwaltungsgericht des Kantons Luzern diesen Entscheid.
Am 17. Dezember 2010 stellte der Regierungsstatthalter weiter fest, dass auch der Kauf des Grundstücks Nr. 750 durch X._ und der Weiterverkauf an die Y._ AG einer Bewilligung nach BewG bedurft hätte; gleichzeitig verweigerte er diese Bewilligung. Dieser Entscheid wurde vom Verwaltungsgericht des Kantons Luzern mit Urteil vom 9. Juni 2011 bestätigt. Dagegen erhoben X._ sowie die Y._ AG Beschwerde an das Bundesgericht (Verfahren 2C_557/2011). Dieses hiess mit Urteil vom 13. Januar 2012 die Beschwerde gut und wies die Sache an das Verwaltungsgericht zurück zur Abklärung, ob die Liegenschaft für eine Betriebsstätte benötigt werde, so dass keine Bewilligung erforderlich wäre (Art. 2 Abs. 2 lit. a BewG).
A.b Inzwischen - am 23. Juni 2008 - hatte die Gemeindeversammlung Vitznau beschlossen, maximal 7 der geplanten 43 Wohneinheiten könnten für den Erwerb von Ferienwohnungen durch Personen im Ausland (Art. 9 Abs. 2 und 3 BewG) bewilligt werden. Am 4. August 2009 verteilte der Gemeinderat die 7 Kontingente wie folgt: 4 Einheiten für Terrassenhäuser und 3 für Einzelparzellen. Mit Beschluss vom 30. August 2011 änderte der Gemeinderat als integrierenden Bestandteil des Gestaltungsplans "Huse" diese Verteilung dahin ab, dass alle 7 Kontingente für die Einzelparzellen Nr. 747-751, 754-756 und 758-766 zur Verfügung stehen. Der Gemeinderat erwog im genannten Beschluss, auf Grundstück Nr. 235 könnten somit keine Ferienwohneinheiten für ausländische Staatsangehörige mehr in Anspruch genommen werden. Zudem sei diese Auflage für die betroffenen Grundstücke im Grundbuch anzumerken.
B. Die Y._ AG erhob dagegen Beschwerde an das Verwaltungsgericht des Kantons Luzern mit dem Antrag, die Bewilligung für den Transfer von Grundstück Nr. 235 zu Gunsten der Einzelparzellen, insbesondere zu Gunsten von Grundstück Nr. 750, und die Umwandlung des Grundstücks Nr. 750 in eine Ferienwohneinheit für ausländische Staatsangehörige seien zu widerrufen. Mit Urteil vom 23. Mai 2012 wies das Verwaltungsgericht die Beschwerde ab, soweit es darauf eintrat.
C. X._ und die Y._ AG erheben mit Eingabe vom 18. Juni 2012 Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht mit dem Antrag, das Urteil des Verwaltungsgerichts sei "unter schlechthin allen in Frage kommenden Aspekten zu prüfen", es sei aufzuheben und der ursprünglichen Beschwerde sei stattzugeben.
Die kantonalen Akten sind beigezogen worden; Vernehmlassungen wurden nicht eingeholt.
Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen den kantonal letztinstanzlichen Endentscheid in einer Angelegenheit des öffentlichen Rechts ist zulässig (Art. 82 lit. a, Art. 86 Abs. 1 lit. d und Art. 90 BGG). Legitimiert zur Beschwerde ist grundsätzlich nur, wer bereits vor der Vorinstanz am Verfahren teilgenommen hat (Art. 89 Abs. 1 lit. a BGG). Gemäss Rubrum des angefochtenen Urteils war nur die Y._ AG Partei des vorinstanzlichen Verfahrens. In der Beschwerdeschrift an das Bundesgericht sind im Titel und beim Unterschriftsvermerk "Y._ AG, X._" genannt. Es ist nicht ganz klar ersichtlich, ob die Beschwerde auch für X._ persönlich erhoben wird oder nur für die Y._ AG. Angesichts des Ausgangs des Verfahrens kann dies indessen offen bleiben.
1.2 Anfechtungsobjekt ist nur das angefochtene Urteil selber. Soweit in der Beschwerde einzelne Aussagen in den Vernehmlassungen der Gemeinde oder des Justiz- und Sicherheitsdepartements kritisiert werden, ist darauf nicht einzugehen. Nicht entscheiderheblich ist auch, dass im angefochtenen Entscheid auf S. 3 in der Wiedergabe des angefochtenen Gemeinderatsbeschlusses "Grundstück Nr. 735" anstatt "235" steht: Dies ist ein offensichtlicher Verschrieb und damit ohne Belang. Ebenfalls nicht einzugehen ist auf die Kritik, dass die Z._ AG ihre Grundstücke wieder an die ursprünglichen Verkäufer zurückverkauft habe, da dies ausserhalb des Streitgegenstands liegt. Zu prüfen ist einzig die Übertragung von vier zusätzlichen Ferienwohnungskontingenten von den Terrassenwohnungen zu den Einzelparzellen.
2. 2.1 Die Vorinstanz hat erwogen, in Bezug auf die nicht in ihrem Eigentum stehenden Grundstücke habe die Beschwerdeführerin kein schutzwürdiges Anfechtungsinteresse, so dass insoweit auf die Beschwerde von vornherein nicht eingetreten werden könne. Sodann fehle es der Beschwerdeführerin auch in Bezug auf ihr eigenes Grundstück Nr. 750 an einem rechtlich geschützten Interesse, die Übertragung anzufechten, da ihr daraus weder ein rechtlicher noch ein tatsächlicher Nachteil erwachse; weder die Eigentumsverhältnisse noch der bau- und planungsrechtliche Status ihrer Parzelle würden dadurch berührt. Ihr Grundstück sei auch - entgegen einer irrtümlichen Erwägung im Beschluss des Gemeinderates - nicht in das (aufgrund des rechtskräftigen Verwaltungsgerichtsurteils vom 22. Februar 2011 durchgeführte) Wiederherstellungsverfahren einbezogen. Die gemäss Urteil des Bundesgerichts vorzunehmende Abklärung über den Betriebsstättencharakter des Grundstücks Nr. 750 sei zurzeit beim Regierungsstatthalteramt hängig und bilde nicht Gegenstand des vorliegenden Verfahrens. Die Frage, ob der Erwerb dieses Grundstücks durch die Beschwerdeführerin der Bewilligungspflicht nach BewG unterstehe, sei nach wie vor offen.
2.2 Diese Ausführungen der Vorinstanz sind zutreffend. Die Beschwerdeführer befürchten offensichtlich, dass infolge des angefochtenen Entscheids das Grundstück Nr. 750 zu einer Ferienwohnung umgewandelt werde, so dass es nicht mehr als Betriebsstätte verwendet werden könnte, und dadurch die Frage der Bewilligungspflicht präjudiziert werde. Damit verkennen sie aber die Bedeutung der streitigen Kontingentsübertragung: Einerseits werden damit nur 7 Ferienwohnungskontingente auf die insgesamt 18 Einfamilienhausparzellen übertragen, also nicht spezifisch auf das Grundstück Nr. 750. Andererseits und vor allem bedeutet ein solches Kontingent ohnehin nicht, dass das betreffende Grundstück nur noch als Ferienwohnung verwendet oder verkauft werden dürfte. Es ermöglicht nur, dass natürlichen Personen im Ausland der Erwerb als Ferienwohnung bewilligt werden kann (Art. 9 Abs. 2 BewG), was normalerweise den Marktwert des Grundstücks steigert. Hingegen wird der Eigentümer des Grundstücks dadurch keineswegs verpflichtet, das Grundstück überhaupt oder als Ferienwohnung zu verkaufen oder nur noch als Ferienwohnung zu benutzen. Entgegen der in der Beschwerde ausgedrückten Befürchtung wird durch den angefochtenen Entscheid das Grundstück nicht "enteignet". Ob das Grundstück als Betriebsstätte im Sinne von Art. 2 Abs. 2 lit. a BewG gelten kann, ist zurzeit aufgrund des Urteils des Bundesgerichts vom 13. Januar 2012 bei den kantonalen Behörden in Abklärung. Wird der Betriebsstättencharakter bejaht werden, so wird das Grundstück im Rahmen der baurechtlichen Ordnung so benützt werden können. Andernfalls werden die gesetzlich vorgesehen Folgen der Bewilligungspflicht eintreten; dies alles wird zu gegebener Zeit zu beurteilen sein und kann nicht im vorliegenden Verfahren geprüft werden.
2.3 Soweit die Beschwerdeführer eine Befangenheit des Regierungsstatthalters und des Justiz- und Sicherheitsdepartements kritisieren, ist dies im vorliegenden Zusammenhang von vornherein gegenstandslos, da es hier um einen Entscheid des Gemeinderates Vitznau und des kantonalen Verwaltungsgerichts geht.
2.4 Weitere Anhaltspunkte, welche den angefochtenen Entscheid als rechtswidrig erscheinen lassen könnten, sind nicht ersichtlich.
3. Die Beschwerde erweist sich damit als offensichtlich unbegründet (Art.109 BGG), soweit darauf eingetreten werden kann. Die Beschwerdeführer tragen die Kosten des bundesgerichtlichen Verfahrens (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.- werden den Beschwerdeführern auferlegt.
3. Dieses Urteil wird den Beschwerdeführern, dem Gemeinderat Vitznau, dem Justiz- und Sicherheitsdepartement und dem Verwaltungsgericht (Verwaltungsrechtliche Abteilung) des Kantons Luzern sowie dem Bundesamt für Justiz schriftlich mitgeteilt.
Lausanne, 2. August 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Seiler
Der Gerichtsschreiber: Klopfenstein