Sachverhalt:
A. Die Eheleute X._ und Y._ sind seit 1999 je zur Hälfte Miteigentümer der Grundstücke Nrn. xxx und yyy, GB D._, Strasse A._ in B._. Der Erwerbspreis für diese Parzellen betrug rund Fr. 1'900'000.--. Das Grundstück Nr. xxx liegt im Gebiet C._ im Weiler E._ an exklusiver Wohnlage mit guter Besonnung und Seesicht. Es verfügt über eine Landfläche von 1'005 m2 und ist mit einem im Jahre 1941 (als noch keine Ausnützungsziffern zu beachten waren) errichteten 81⁄2-Zimmer-Einfamilienhaus überbaut. Auf dem auf der andern Seite der Seestrasse gelegenen Nachbargrundstück Nr. yyy befindet sich ein Bootshaus auf einer Grundstücksfläche von 268 m2.
B. Die Dienststelle Steuern, Immobilienbewertung, des Kantons Luzern eröffnete X._ und Y._ am 5. November 2009 die Katasterschatzungen für das Grundstück Nr. xxx mit einem Katasterwert von Fr. 1'770'200.-- und für das Grundstück Nr. yyy mit einem solchen von Fr. 163'000.--, beide gültig ab 2. September 2009. Die Einsprache an die Dienststelle Steuern, Immobilienbewertung, und die Beschwerde an das Verwaltungsgericht des Kantons Luzern blieben erfolglos.
C. Vor Bundesgericht beantragen die Eheleute X._ und Y._, das Urteil des Verwaltungsgerichts des Kantons Luzern vom 9. November 2011 sowie den Einspracheentscheid der Schätzungsbehörde aufzuheben, festzustellen, "dass auf dem Grundstück Nr. xxx GB D._ ein Besitzstand besteht, der bei Berechnung des Katasterwertes die Anwendung der Bodenübernutzung nicht erlaubt", den Basis-Quadrat-Meter-Preis des Landwertes bei Grundstück Nr. xxx mit Fr. 750/m2 und den Katasterwert der Liegenschaft Nr. xxx auf Fr. 1'578'900.-- festzusetzen. Sie rügen eine Verletzung des rechtlichen Gehörs und eine unrichtige Anwendung von kantonalem Recht.
D. Die Dienststelle Steuern des Kantons Luzern beantragt unter Verzicht auf eine Stellungnahme, die Beschwerde abzuweisen, soweit darauf einzutreten ist. Auch das Verwaltungsgericht des Kantons Luzern schliesst auf Abweisung der Beschwerde. Darauf haben die Beschwerdeführer repliziert.
Erwägungen:
1. 1.1 Beim angefochtenen Entscheid handelt es sich um einen kantonal letztinstanzlichen Entscheid in einer Angelegenheit des kantonalen öffentlichen Rechts. Dagegen steht gemäss Art. 82 ff. BGG die Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht offen. Im Kanton Luzern wird das unbewegliche Vermögen nicht im Rahmen der ordentlichen Veranlagung, sondern in einem besonderen Verfahren durch spezielle Organe bewertet (vgl. § 28 ff. des Gesetzes über die amtliche Schatzung des unbeweglichen Vermögens [Schatzungsgesetz, SchG] vom 27. Juni 1961 [SRL 626]) und wird kantonal letztinstanzlich vom Verwaltungsgericht überprüft. Bei einem solchen Schätzungsentscheid handelt es sich um einen Endentscheid im Sinne von Art. 90 BGG (Urteil 2C_742/2010 vom 16. Februar 2011 E. 1.1 mit Hinweis). Auf die form- und fristgerecht eingereichte Beschwerde der gemäss Art. 89 Abs. 1 BGG legitimierten Beschwerdeführer ist grundsätzlich einzutreten.
1.2 Nicht einzutreten ist auf die Beschwerde, soweit auch der Einspracheentscheid der Schätzungsbehörde vom 9. Juli 2010 angefochten wird. An dessen Stelle ist nach dem im Beschwerdeverfahren geltenden Devolutiveffekt das angefochtene Urteil des Verwaltungsgerichts getreten (Urteil 2C_171/2010 vom 30. Juni 2010 E. 1.3 mit Hinweis), und nur dieser Entscheid kann vor Bundesgericht angefochten werden (Art. 86 Abs. 1 lit. d BGG). Ebenfalls nicht einzutreten ist auf die Anträge, es seien neben der Aufhebung des angefochtenen Urteils und der Festsetzung des Katasterwertes auf Fr. 1'578'900.-- noch gewisse Feststellungen zu treffen, besteht doch hierfür kein schutzwürdiges Interesse (vgl. statt vieler BGE 126 II 300 E. 2c S. 303 f.).
1.3 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten hat sich auf einen der in Art. 95 BGG aufgeführten Beschwerdegründe zu stützen, worunter die unrichtige Anwendung von kantonalem Recht nicht fällt. Anders verhält es sich, wenn die Verletzung von kantonalem Recht gleichzeitig eine Verletzung von Bundesrecht bedeutet, insbesondere einen Verstoss gegen das Willkürverbot von Art. 9 BV oder gegen ein anderes verfassungsmässiges Recht (Urteil 1C_742/2010 vom 16. Februar 2011 E. 2.2 mit Hinweis). Hinsichtlich der Verletzung von Grundrechten und von kantonalem Recht gilt aber eine qualifizierte Rügepflicht. Das Bundesgericht prüft eine solche Rüge nur insofern, als sie in der Beschwerde präzise vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG). Soweit die Beschwerdeschrift diesen Begründungsanforderungen nicht genügt, ist darauf ebenfalls nicht einzutreten (BGE 136 I 65 E. 1.3.1 S. 68).
2. 2.1 Zunächst rügen die Beschwerdeführer eine Verletzung ihres verfassungsrechtlichen Anspruchs auf rechtliches Gehör (Art. 29 Abs. 2 BV). Dieser verlangt von der Behörde, dass sie die Vorbringen der Beschwerdeführer tatsächlich hört, ernsthaft prüft und in ihrer Entscheidfindung angemessen berücksichtigt (BGE 136 I 184 E. 2.2.1 S. 188 mit Hinweis). Die Begründung muss so abgefasst sein, dass der Betroffene den Entscheid gegebenenfalls sachgerecht anfechten kann. Sie muss kurz die wesentlichen Überlegungen nennen, von denen sich das Gericht hat leiten lassen und auf die es seinen Entscheid stützt. Nicht erforderlich ist, dass sich die Begründung mit allen Parteistandpunkten einlässlich auseinandersetzt und jedes einzelne Vorbringen ausdrücklich widerlegt (BGE 133 III 439 E. 3.3 S. 445).
2.2 Die Beschwerdeführer rügen, die Vorinstanz habe sich mit ihrem Vorbringen, es gebe erst seit dem Bebauungsplan Oberspissen vom 5. Juni 1986 Ausnützungsziffern und dort werde u.a. für die früher überbaute Parzelle Nr. xxx ausdrücklich festgehalten, das bestehende Bauvolumen sei bei Umbau und Renovation gewährleistet (Art. 4 Abs. 2 des Bebauungsplans), überhaupt nicht auseinandergesetzt. Auf ihr Argument, wegen dieser baurechtlichen Sonderstellung dürfe bei der Bewertung auch kein Übernutzungszuschlag vorgenommen werden, werde nicht eingegangen, und sie wüssten heute noch nicht, "warum dieser Artikel (des Bebauungsplanes) nicht Anwendung finden soll".
Die Vorinstanz setzt sich in E. 4d/aa ihres Entscheids indessen mit dieser Frage auseinander und erklärt nachvollziehbar, weshalb die Übernutzung bei der angewendeten Bewertungsmethode (Lageklassenmethode) zu berücksichtigen ist. Wenn die Vorinstanz der Rechtsauffassung der Beschwerdeführer in diesem Punkt nicht gefolgt ist, hat sie ihnen gleichwohl "Gehör geschenkt". Von einer Verletzung des verfassungsmässigen Anspruchs auf rechtliches Gehör kann daher keine Rede sein. Ob die vorinstanzliche Rechtsauffassung hingegen zutrifft, ist nachfolgend zu untersuchen.
3. 3.1 Gemäss § 17 SchG entspricht der Katasterwert nichtlandwirtschaftlicher Grundstücke dem Verkehrswert. Dieser wird nach § 6 der Vollziehungsverordnung zum Gesetz über die amtliche Schatzung des unbeweglichen Vermögens (Schatzungsverordnung, SchV) vom 24. Juli 1967 (SRL 627) nach den anerkannten Regeln der Schatzungstechnik unter Verwendung von pauschalen Bewertungsansätzen aus Real- und Ertragswert ermittelt. Dabei sind die vom Finanzdepartement zu genehmigenden Weisungen der Abteilung Immobilienbewertung der Dienststelle Steuern zu beachten. Der Realwert setzt sich gemäss § 19 SchG aus dem Verkehrswert des Bodens und den Anlagekosten der Bauten und Umgebungsarbeiten, berechnet auf den Zeitpunkt der Schatzung, zusammen. Der Ertragswert überbauter Grundstücke, die nicht als landwirtschaftlich gelten, entspricht nach § 20 Abs. 1 SchG dem kapitalisierten jährlichen Rohertrag. Als Rohertrag gelten die auf längere Zeit erzielbaren Einkünfte ohne Abzug der Unterhalts- und Verwaltungskosten, der Zinsen für Eigen- und Fremdkapital, der Abschreibungen und der Steuern (§ 20 Abs. 2 SchG). Die dem Eigenbedarf des Eigentümers dienenden Nutzungen werden zu einem mittleren Verkehrswert in den massgebenden Rohertrag einbezogen (§ 20 Abs. 3 SchG).
3.2 Vorliegend ermittelte die Abteilung Immobilienbewertung der Dienststelle Steuern für die Parzelle Nr. xxx Anlagekosten von Fr. 1'103'100.-- und einen Landwert des Bodens von Fr. 927'100.--, was zusammen einen Realwert (RW) von Fr. 2'030'200.-- ergab. Den Ertragswert (EW) bestimmte sie auf Fr. 903'400.-- und kam so auf einen Katasterwert von Fr. 1'770'169.-- (RW + [0,3 x EW] : 1.3) oder gerundet Fr. 1'770'200.--.
3.3 Von den diversen Berechnungsfaktoren rügen die Beschwerdeführer nur gerade den Landwert des Bodens als zu hoch, weil die Übernutzung zu Unrecht als wertsteigernd berücksichtigt worden sei. Nach ihrer Berechnung würde der Realwert (bei unveränderten Anlagekosten) nur Fr. 1'781'500.-- statt Fr. 2'030'200.-- betragen (statt einen Landwert von Fr. 927'100.-- [1005 m2 x 90% von Fr. 1'025] einen solchen von 678'400.-- [1005 m2 x 90% von Fr. 750] entsprechend dem Preis für vergleichbare Liegenschaften). Damit würde beim gegebenen Ertragswert (Fr. 903'400.--) ein "akzeptabler" Katasterwert von Fr. 1'578'862.-- oder gerundet Fr. 1'578'900.-- resultieren.
Dabei übersehen die Beschwerdeführer, dass an sich auch die angefochtene Schätzung von einem solchen Vergleichswert (Fr. 750.--/m2) ausgeht. Allerdings blendet diese Schätzung die hier bestehende massive Übernutzung richtigerweise nicht aus. Denn der Landwert ist anerkanntermassen umso höher, je höher die bauliche Nutzung ist (vgl. das Musterbeispiel bei HEINZ WENGER/MUCK MARC WENGER/WOLFGANG NÄGELI, Der Liegenschaftenbewerter, 5. Auflage 2009, S. 65 ff., wo der Zusammenhang zwischen der möglichen Ausnützung und dem Landwert dargestellt wird). Wenn nun aber eine baurechtlich an sich nicht mehr mögliche Ausnützung gleichwohl tatsächlich gegeben ist, kann offensichtlich als Vergleichswert nicht der Preis von Land herangezogen werden, wo eine so hohe Ausnützung niemals in Frage käme. Vielmehr ist dieser Vergleichswert richtigerweise angemessen anzuheben. Die Beschwerdeführer rügen nicht das konkrete Ausmass dieser Erhöhung, sondern stellen ganz grundsätzlich in Abrede, dass ein solches Vorgehen sachgerecht sei. Dabei gehen sie von der verfehlten Annahme aus, der baurechtliche Sonderstatus der Parzelle Nr. xxx müsse auch auf die Grundstücksschätzung durchschlagen und unberücksichtigt bleiben. Dies ist offensichtlich falsch und widerspricht ökonomischer Logik, wonach "Privilegien" werterhöhend wirken. Das diesbezügliche Vorgehen der Abteilung Immobilienbewertung der Dienststelle Steuern ist daher prinzipiell sachgerecht und kann nicht als willkürlich bezeichnet werden.
4. Zusammenfassend vermögen die Beschwerdeführer nicht aufzuzeigen, dass die Bewertung der Vorinstanz geradezu unhaltbar ist und sich damit als willkürlich erweist. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten erweist sich infolgedessen als unbegründet und ist abzuweisen, soweit darauf eingetreten werden kann.
Dem Verfahrensausgang entsprechend sind die Kosten des bundesgerichtlichen Verfahrens den Beschwerdeführern unter Solidarhaft aufzuerlegen (Art. 65 f. BGG). Eine Parteientschädigung ist nicht auszurichten.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden den Beschwerdeführern unter Solidarhaft auferlegt.
3. Dieses Urteil wird den Verfahrensbeteiligten und dem Verwaltungsgericht des Kantons Luzern, Abgaberechtliche Abteilung, schriftlich mitgeteilt.
Lausanne, 12. Juli 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Errass