Sachverhalt:
A. X. und Y._ halten sämtliche Aktien der A._ AG. Diese Wertpapiere sind nicht kotiert und werden auch ausserbörslich nicht regelmässig gehandelt.
Die A._ AG hat gemäss ihren Statuten folgenden Zweck: "Führung eines Hoch- und Tiefbauunternehmens; Handel mit Baumaterialien, Kies und Baumaschinen sowie Ausführung von Transporten; Erwerb und Veräusserung von Liegenschaften; Beteiligungen". Aufgrund eines Lieferstopps der B._ AG befindet sich die A._ AG jedoch in einem Liquiditätsengpass. Sie musste ihre operative Tätigkeit per September 2001 sistieren und hat diese seither nicht wieder aufgenommen. Mit ihren Gläubigern schloss die A._ AG einen Nachlassvertrag mit Stundungsvergleich, welcher am 2. März 2004 genehmigt wurde. Dieser Vertrag sieht u.a. vor, dass die Forderungen der Gläubiger der 3. Klasse solange als gestundet gelten, bis der eingeleitete Forderungsprozess gegen die B._ AG abgeschlossen ist, beziehungsweise - bei einem positivem Ausgang des Prozesses - bis die erstrittenen Erlöse eingegangen sind.
B. Am 7. Juli 2006 wurden X. und Y._ für die Staats- und Gemeindesteuern der Steuerperiode 2004 für ein steuerbares Einkommen von Fr. 14'635.-- und, in Abweichung von der Selbstdeklaration, für ein steuerbares Vermögen von insgesamt Fr. 2'482'955.-- veranlagt. Die Differenz zur Selbstschatzung ist im Wesentlichen auf die Bewertung der Aktien der A._ AG zurückzuführen: Während die Veranlagungsbehörde hierzu auf den reinen Substanzwert der Unternehmung (Fr. 1'579'027.--) abstellte, wollten die Steuerpflichtigen den steuerbaren Wert der Papiere unter Berücksichtigung des zweifachen Ertragswertes und des einfachen Substanzwertes der Gesellschaft ermittelt haben und gingen so von einem steuerbaren Gesamtwert der Aktien von Fr. 526'342.-- aus.
Eine von den Steuerpflichtigen erhobene Einsprache wies die zuständige Steuerkommission mit Entscheid vom 17. Juli 2007 ab, worauf sich X. und Y._ beim Verwaltungsgericht des Kantons Luzern beschwerten. Mit Urteil vom 24. September 2008 wies dieses die Beschwerde ab.
C. Mit Eingabe vom 29. Oktober 2008 führen die Steuerpflichtigen Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht. Sie beantragen die Aufhebung des Urteils des Verwaltungsgerichts des Kantons Luzern vom 24. September 2008. Sodann seien die kantonalen Instanzen anzuweisen, bei der Veranlagung des Vermögens der Beschwerdeführer den Aktienwert der A._ AG mittels zweimaliger Gewichtung des Ertragswertes und einmaliger Gewichtung des Substanzwertes zu berechnen.
Die Steuerverwaltung und das Verwaltungsgericht des Kantons Luzern sowie die Eidgenössische Steuerverwaltung schliessen auf Abweisung der Beschwerde.
Die II. öffentlich-rechtliche Abteilung des Bundesgerichts hat die Angelegenheit am 12. Juni 2009 an einer öffentlichen Sitzung beraten.

Erwägungen:
1. 1.1 Angefochten ist ein letztinstanzlicher kantonaler Endentscheid in einer Angelegenheit des öffentlichen Rechts, die unter keinen Ausschlussgrund gemäss <ref-law> fällt und daher mit Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht weitergezogen werden kann (Art. 82 lit. a, Art. 86 Abs. 1 lit. d und Art. 90 BGG sowie Art. 73 des Bundesgesetzes vom 14. Dezember 1990 über die Harmonisierung der direkten Steuern der Kantone und Gemeinden, StHG, SR 642.14). Die Beschwerdeführer sind gestützt auf <ref-law> zur Beschwerde in öffentlich-rechtlichen Angelegenheiten legitimiert; auf das frist- und formgerecht eingereichte Rechtsmittel ist einzutreten.
1.2 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann namentlich die Verletzung von Bundesrecht (einschliesslich der verfassungsmässigen Rechte) sowie von interkantonalem Recht gerügt werden (<ref-law>). Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (<ref-law>), es sei denn, dieser sei offensichtlich unrichtig oder beruhe auf einer Rechtsverletzung im Sinne von <ref-law> (Art. 105 Abs. 2 bzw. <ref-law>).
2. 2.1 Gemäss Art. 14 Abs. 1 StHG wird das Vermögen zum Verkehrswert bewertet, wobei der Ertragswert angemessen berücksichtigt werden kann. Als Verkehrswert gilt der objektive Marktwert eines Vermögensobjektes. Dieser entspricht dem Preis, der bei einer Veräusserung im gewöhnlichen Geschäftsverkehr mutmasslich zu erzielen ist, den also ein unbefangener Käufer unter normalen Umständen zu zahlen bereit wäre (<ref-ruling> E. 3.1.2 S. 248; Zigerlig/Jud, in: Kommentar zum Schweizerischen Steuerrecht [I/1], Bundesgesetz über die Harmonisierung der direkten Steuern der Kantone und Gemeinden [StHG], 2. Aufl. 2002, N 1 zu Art. 14 StHG). Die Bewertung zum Verkehrswert ist für die Kantone bindend. Nach welchen Regeln der Verkehrswert zu ermitteln ist, schreibt das StHG indessen nicht vor. Ebensowenig wird die Kann-Vorschrift der angemessenen Berücksichtigung des Ertragswerts näher geregelt. Den Kantonen steht daher ein weiter Ermessensspielraum offen (<ref-ruling> E. 3.6 S. 214, mit Hinweisen).
2.2 Auch § 44 des Steuergesetzes des Kantons Luzern vom 22. November 1999 (StG) bestimmt, dass das Vermögen zum Verkehrswert bewertet wird, wenn das Gesetz nichts anderes vorsieht. Nach § 47 StG gilt für regelmässig gehandelte Wertpapiere der Kurswert als Verkehrswert (Abs. 1). Für nicht regelmässig gehandelte Wertpapiere ist der Verkehrswert zu schätzen (Abs. 2).
Im vorliegenden Fall erfolgte die Schätzung des Verkehrswertes anhand der Wegleitung der Schweizerischen Steuerkonferenz zur Bewertung von Wertpapieren ohne Kurswert für die Vermögenssteuer, Ausgabe 1995. Nach Ziff. 41 dieser Wegleitung ergibt sich der Unternehmenswert für Handels-, Industrie- und Dienstleistungsgesellschaften aus der zweimaligen Gewichtung des Ertragswertes und der einmaligen Gewichtung des Substanzwertes. Dies gilt selbst dann, wenn ein Unternehmen mit Verlust arbeitet; in diesem Fall wird der Ertragswert mit Null eingesetzt (Ziffer 45). Für reine Holding-, Vermögensverwaltungs- und Finanzierungsgesellschaften sowie für Immobiliengesellschaften richtet sich der Unternehmenswert dagegen nach dem reinen Substanzwert (Ziff. 46 bzw. Ziff. 50). Massgebend für die Bewertungsmethodik ist nicht so sehr der statutarische Zweck, sondern die tatsächlich ausgeübte Tätigkeit der Gesellschaft (Ziffer 6).
3. Wie bereits ausgeführt, stellten die Vorinstanzen bei der Bewertung der Aktien der A._ AG ausschliesslich auf den Substanzwert der Gesellschaft ab, d.h. sie setzten das Gesamtvermögen der Unternehmung abzüglich des Fremdkapitals dem Verkehrswert gleich. Die Beschwerdeführer beanstanden dies im Wesentlichen mit dem Argument, dass die A._ AG eine nach wie vor aktive Dienstleistungsgesellschaft sei. Zwar treffe es zu, dass keine Bauaufträge mehr ausgeführt würden und die operative Tätigkeit im engeren Sinne aufgegeben worden sei. Indessen agiere die Unternehmung mit ihren Bemühungen, die Forderung gegen die B._ AG gerichtlich durchzusetzen, weiterhin im Rahmen des Gesellschaftszweckes. Die aus einem erfolgreichen Prozess resultierenden Mittel würden alsdann nicht nur in die Befriedigung der Gläubiger, sondern auch in die Fortsetzung der Geschäftstätigkeit investiert werden. Um diese Möglichkeit zu erhalten, habe die A._ AG die Geschäfts- und Betriebsräumlichkeiten in Z._ auch nicht verkauft oder weitervermietet. Die von der Veranlagungsbehörde vorgenommene und von den Vorinstanzen geschützte analoge Anwendung der Bewertungsgrundsätze für Vermögensverwaltungsgesellschaften sei daher offensichtlich unangebracht. Dies ergebe sich auch aus dem Umstand, dass - aufgrund des mit dem eingeleiteten Forderungsprozess verbundenen Kostenrisikos - im massgebenden Zeitpunkt kein potentieller Käufer bereit gewesen wäre, für die Aktien der A._ AG einen Preis zu bezahlen, welcher dem Substanzwert der Unternehmung entsprochen hätte.
In Zusammenhang mit diesen Vorbringen rügen die Beschwerdeführer eine Verletzung von Art. 14 StHG sowie der erwähnten Wegleitung der Schweizerischen Steuerkonferenz. Eventualiter bringen die Beschwerdeführer vor, das Gleichstellen der A._ AG mit einer Holding-, Vermögensverwaltungs-, Finanzierungs- bzw. Immobiliengesellschaft stelle eine offensichtlich unrichtige Sachverhaltsfeststellung der Vorinstanz dar.
4. Die Sachverhaltsrüge der Beschwerdeführer geht fehl: Die Behauptung, dass die Gleichstellung der A._ AG mit einer Holding-, Vermögensverwaltungs-, Finanzierungs- bzw. Immobiliengesellschaft unrichtig sei, zielt darauf ab, dass die Vorinstanz den Sachverhalt falsch unter die einschlägigen Normen subsumiert bzw. letztere falsch angewendet habe. Das Vorbringen betrifft mithin eine Rechts- und nicht eine Tatfrage.
5. 5.1 Die Wegleitung der Schweizerischen Steuerkonferenz zur Bewertung von Wertpapieren ohne Kurswert für die Vermögenssteuer ist keine von einer Bundesbehörde erlassene Rechtsnorm und kann somit von vornherein kein Bundesrecht im Sinne von <ref-law> darstellen. Ebensowenig kann sie als interkantonales Recht i.S. von <ref-law> bezeichnet werden: Zwar kann dieses nebst Konkordaten auch rechtsetzende Erlasse von interkantonalen Organen mitumfassen (vgl. die noch zu Art. 84 Abs. 1 lit. b OG ergangenen Entscheide 2P.53/2003 vom 30. April 2004 E. 1.2.2, 2P.113/2003 vom 15. September 2003 E. 1.1, 2P.176/2001 vom 6. November 2001 E. 1.a/aa). Bei der vorliegend betroffenen Wegleitung handelt es sich jedoch um eine reine Verwaltungsverordnung und mithin nicht um Rechtsnormen im eigentlichen Sinn: Sie statuiert keine Rechte und Pflichten gegenüber Privaten, sondern enthält bloss verwaltungsinterne Regeln für das Verhalten der Steuerbeamten.
5.2 Zweck der Wegleitung ist eine Vereinheitlichung der Praxis der Kantone zur Bewertung von nicht regelmässig gehandelten Wertpapieren. Sie dient somit der Steuerharmonisierung zwischen den Kantonen und entspricht vermutungsweise der geübten Verwaltungspraxis. Gleichzeitig konkretisiert sie aber auch Art. 14 Abs. 1 StHG und füllt den Handlungsspielraum aus, den diese Norm den Kantonen einräumt. Die Auslegung des Steuerharmonisierungsgesetzes unterliegt dabei einer freien Überprüfung durch das Bundesgericht (<ref-law>). Ebenfalls mit freier Kognition überprüft das Bundesgericht die Konformität des kantonalen Rechts mit dem Steuerharmonisierungsgesetz. In dem Umfang, als das Steuerharmonisierungsgesetz den Kantonen wie im vorliegenden Fall bewusst einen Handlungsspielraum belässt, beschränkt sich die Prüfungsbefugnis des Bundesgerichts dagegen auf die Frage, ob die Vorinstanzen bei Anwendung und Konkretisierung der kantonalen Steuerordnung gegen Bundesverfassungsrecht, insbesondere gegen das Willkürverbot verstossen haben (<ref-ruling> E. 2 S. 210; <ref-ruling> E. 2 S. 724).
6. 6.1 Wie von Art. 14 Abs. 1 StHG vorgeschrieben, erachtet die Steuerordnung des Kantons Luzern für die Bewertung des Vermögens grundsätzlich dessen Verkehrswert als massgebend. Bei der Berechnung des Verkehrswertes von nicht regelmässig gehandelten Aktien trifft die kantonale Praxis Unterscheidungen, welche sich an Natur und Tätigkeit des jeweiligen Unternehmens orientieren: Bei Handels-, Industrie- und Dienstleistungsgesellschaften findet, wie bereits festgestellt, auch der Ertragswert eines Unternehmens Berücksichtigung, wogegen bei Holding-, Vermögensverwaltungs-, Finanzierungs- bzw. Immobiliengesellschaften einzig der Substanzwert massgebend ist. Dies erscheint nachvollziehbar, ist doch die Berücksichtigung des Ertragswerts nur dort sinnvoll, wo nicht primär das aktuelle Vermögen eines Unternehmens, sondern vielmehr die Wahrscheinlichkeit künftiger Gewinne bzw. Verluste - d.h. die Ertragskraft - für den (Verkehrs-) Wert einer Gesellschaft entscheidend ist. Auf operativ tätige Unternehmen dürfte dies zutreffen, nicht aber auf Gesellschaften, die sich in erster Linie auf das Halten und Verwalten von Vermögen beschränken.
6.2 Wie das Verwaltungsgericht unter Hinweis auf die Jahresrechnungen der A._ AG zutreffend festhält, beschränkte sich deren Tätigkeit ab dem Geschäftsjahr 2002 auf das Einfordern von Rechtsansprüchen, die Liquidation von mobilen Sachanlagen sowie die Verwaltung und den Besitz von Liegenschaften. Von einer noch immer andauernden Aktivität im Rahmen des Gesellschaftszweckes, wie dies die Beschwerdeführer behaupten, kann daher keine Rede sein; daran ändert auch nichts, dass die gerichtlich geltend gemachte Forderung gegen die B._ AG ihren Ursprung in der angestammten Tätigkeit der A._ AG haben mag. Zwar dürfte richtig sein, dass die A._ AG ihre Geschäftsliegenschaft bis anhin nicht veräussert oder vermietet hat. Indessen kann aus diesem Umstand nicht auf eine in absehbarer Zeit erfolgende Wiederaufnahme der Geschäftstätigkeit geschlossen werden: Die Geschäftsbücher des Jahres 2004 zeigen auf, dass die A._ AG kein Personal mehr hat und auch nicht mehr über die nötige Gerätschaft für den Betrieb einer Bauunternehmung verfügt. Da die A._ AG mithin keiner eigentlichen Geschäftstätigkeit mehr nachgeht und auch nicht mehr über die hierfür notwendigen Betriebsmittel verfügt, ist nicht ersichtlich, inwiefern eine Gewinn- bzw. Verlusterwartung vorläge, welche die Mitberücksichtigung des Ertragswertes, sozusagen als Korrektiv zum Substanzwert, rechtfertigen bzw. indizieren würde. Dass die Prozesskostenrisiken der A._ AG im Zivilverfahren gegen die B._ AG von einem derartigen Ausmass wären, dass sie eine signifikante Auswirkung auf den objektiven Wert der Gesellschaft hätten, wurde von den Beschwerdeführern jedenfalls weder substantiiert aufgezeigt noch belegt.
6.3 Bei dieser Sachlage erscheint es nicht als willkürlich, wenn die Vorinstanzen die kantonale Steuerordnung so angewendet haben, dass sie die Bewertung der Aktien der A._ AG nicht entsprechend der Praxis bei Handels-, Industrie- und Dienstleistungsgesellschaften vorgenommen haben, sondern hierfür - der tatsächlich ausgeübten Tätigkeit der Gesellschaft Rechnung tragend - ihre Bewertungsmethodik für Vermögensverwaltungs- bzw. Immobiliengesellschaften herangezogen haben. Ebenso befindet sich die im vorliegenden Fall vorgenommene Veranlagung innerhalb des Handlungsspielraums, welcher das Steuerharmonisierungsgesetz den Kantonen belässt, zumal die Berücksichtigung des Ertragswertes bundesrechtlich nicht zwingend vorgeschrieben wird.
7. Die Beschwerde erweist sich somit als unbegründet und ist abzuweisen. Entsprechend diesem Verfahrensausgang sind die Kosten des Verfahrens den Beschwerdeführern unter solidarischer Haftbarkeit aufzuerlegen (Art. 65 f. BGG). Eine Parteientschädigung ist nicht auszurichten (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden den Beschwerdeführern unter solidarischer Haftbarkeit auferlegt.
3. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Luzern und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 12. Juni 2009
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Müller Zähndler