Sachverhalt:
A. X._ und Y._ erhoben beim Verwaltungsgericht des Kantons Nidwalden Ende Oktober 2008 Beschwerde gegen einen Einspracheentscheid der kantonalen Steuerverwaltung. Sie bezahlten in der Folge den Gerichtskostenvorschuss nicht innert der dafür angesetzten Frist. Das Verwaltungsgericht trat aus diesen Gründen am 3. Dezember 2008 auf die Beschwerde nicht ein.
B. X._ und Y._ beantragen dem Bundesgericht mit Beschwerde in öffentlich-rechtlichen Angelegenheiten, den Nichteintretensentscheid des Verwaltungsgerichts aufzuheben und die Sache zur materiellen Beurteilung an diese Instanz zurückzuweisen.
Das Verwaltungsgericht ersucht um Abweisung der Beschwerde, soweit darauf einzutreten sei.
Das kantonale Steueramt und die Eidgenössische Steuerverwaltung beantragen sinngemäss die Abweisung des Rechtsmittels.
C. Der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts hat am 16. März 2009 das Gesuch der Beschwerdeführer um aufschiebende Wirkung abgewiesen.

Erwägungen:
1. Die Rechtsschrift der Beschwerdeführer enthält in der zweiten Hälfte Darlegungen, die sich auf ein anderes Verfahren beziehen. So wird als Unterzeichnender VR F._ und als Adresse der Beschwerdeführer ein Ort in Freiburg angegeben, was offensichtlich unzutreffend ist. Ausserdem werden Normen des freiburgischen Prozessrechts als verletzt gerügt. Auf diese sachfremden Ausführungen ist nicht einzutreten.
2. 2.1 Nach den Feststellungen im angefochtenen Entscheid wurde den Beschwerdeführern am 4. November 2008 eine Frist von 10 Tagen angesetzt, um einen Gerichtskostenvorschuss von Fr. 2'000.-- zu bezahlen. Zugleich wurde ihnen angedroht, dass eine Nichtleistung des Vorschusses innert Frist als Verzicht auf die Beschwerde gelte. Die Post sandte am 14. November 2008 den eingeschriebenen Brief mit der genannten Verfügung mit dem Vermerk "nicht abgeholt" an die Vorinstanz zurück, da die bis am 13. November 2008 dauernde postalische Frist zur Abholung unbenutzt verstrichen war. Die Vorinstanz teilte am 19. November 2008 den Beschwerdeführern mit nicht eingeschriebenem A-Post-Brief mit, dass die Verfügung mit der Aufforderung zur Leistung eines Kostenvorschusses als am letzten Tag der siebentägigen Abholfrist, d.h. am 13. November 2008, zugestellt gelte. Bis am 24. November 2008 ging beim Gericht kein Kostenvorschuss der Beschwerdeführer ein.
2.2 Gestützt auf diese Feststellungen geht die Vorinstanz davon aus, dass die Frist zur Bezahlung des Kostenvorschusses gemäss § 32 der kantonalen Verwaltungsrechtspflegeverordnung vom 8. Februar 1985 (VRPV/NW) am 13. November 2008 zu laufen begann und am 24. November 2008 endete. Da innert Frist kein Vorschuss beim Gericht einging, ist sie am 8. Dezember 2008 in Anwendung von § 8 der kantonalen Prozesskostenverordnung vom 8. Januar 1977 in Verbindung mit §§ 75 und 116 Abs. 2 VRPV/NW sowie Art. 188 des kantonalen Steuergesetzes auf das Rechtsmittel nicht eingetreten.
3. 3.1 Die Beschwerdeführer wenden sich allein gegen die vorinstanzliche Bestimmung des Zeitpunkts, der den Beginn des Fristenlaufs zur Leistung des Kostenvorschusses auslöst. Sie rügen einerseits eine offensichtlich unzutreffende Sachverhaltsfeststellung sowie eine Aktenwidrigkeit und anderseits eine Verletzung des Grundsatzes der Rechtsgleichheit (<ref-law> und Art. 2 Abs. 1 KV/NW) sowie des Anspruchs auf rechtliches Gehör (<ref-law> und Art. 3 Abs. 2 KV/NW).
Die Beschwerdeführer behaupten zwar, die Nidwaldner Kantonsverfassung verleihe den beiden zuletzt genannten verfassungsmässigen Rechten eine weitergehende Bedeutung als die Bundesverfassung. Doch begründen sie dies mit keinem Wort, und es ist nicht ersichtlich, inwieweit den gleichlautenden Bestimmungen der Kantonsverfassung eine Tragweite zukommen könnte, die über das Bundesverfassungsrecht hinausreicht.
Nicht erkennbar ist auch, inwiefern der angefochtene Entscheid Art. 50 StHG verletzen könnte; diese Bestimmung regelt nämlich die hier allein umstrittene Fristwahrung im Rechtsmittelverfahren nicht.
3.2 Nach Auffassung der Beschwerdeführer bestimmt die Vorinstanz den Fristbeginn zu Unrecht nach § 32 VRPV/NW, da diese Norm gegen den Grundsatz der Rechtsgleichheit verstosse.
Nach der zitierten Bestimmung gilt eine Zustellung als erfolgt, wenn der Adressat die Annahme ausdrücklich verweigert oder eine eingeschriebene Sendung nicht binnen der angesetzten Frist abholt. Die Behauptung der Beschwerdeführer, diese sog. Zustellungsfiktion benachteilige in unhaltbarer Weise Personen, die sich während der Abholungsfrist im Ausland aufhielten und ihr Postfach nicht leeren könnten, übersieht, dass vorübergehend Abwesende die Möglichkeit haben, jemanden mit der Entgegennahme bzw. Abholung postalischer Sendungen zu beauftragen. Wie die Vorinstanz zu Recht darlegt, darf von demjenigen, der ein Rechtsmittel ergreift, erwartet werden, dass er den Empfang der zu erwartenden gerichtlichen Sendungen sicherstellt. Die erhobene Rüge leuchtet auch deshalb nicht ein, weil es trotz der geltend gemachten unvorhergesehenen Auslandabwesenheit des Ehemanns zumindest der Ehefrau hätte möglich sein müssen, die fragliche Sendung abzuholen, zumal diese ja auch an sie adressiert war.
4. Durfte die Vorinstanz ihren Entscheid auf § 32 VRPV/NW abstützen, ist den weiteren Rügen der Beschwerdeführer der Boden entzogen. So ist es nicht willkürlich und stellt keine Verletzung des Gehörsanspruchs dar, wenn die Vorinstanz den Beschwerdeführern keine Gelegenheit einräumte, die Gründe ihrer Verhinderung näher darzulegen, weil es darauf gar nicht ankommt. Soweit die Beschwerdeführer behaupten, es sei nicht erwiesen, dass überhaupt eine Abholungseinladung in ihr Postfach gelegt worden sei, bringen sie keinerlei Anhaltspunkte vor, die einen Fehler bei der Post nahelegen könnten. Es trifft zwar zu, dass Behörden nachzuweisen haben, dass und wann sie ihre Verfügungen dem Adressaten zugestellt haben. Nach der Rechtsprechung besteht jedoch eine - widerlegbare - Vermutung dafür, dass die Post eine Abholungseinladung in den Briefkasten oder das Postfach des Empfängers legt und das Zustelldatum korrekt registriert (vgl. zuletzt Urteil 2C_38/2009 vom 5. Juni 2009 E. 4.1). Die Beschwerdeführer berufen sich lediglich in allgemeiner Weise darauf, dass bei der Post fehlerhafte Zustellungen vorkommen. Das genügt jedoch nicht, um die erwähnte Vermutung zu entkräften, da sich dieser Einwand immer erheben lässt.
5. Die Beschwerde ist in dem Umfang, in dem überhaupt auf sie einzutreten ist, unbegründet und daher abzuweisen.
6. Bei diesem Verfahrensausgang sind die bundesgerichtlichen Kosten den Beschwerdeführern aufzuerlegen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 1'500.-- werden den Beschwerdeführern zu gleichen Teilen und unter solidarischer Haftung auferlegt.
3. Dieses Urteil wird den Beschwerdeführern, dem Kantonalen Steueramt Nidwalden, dem Verwaltungsgericht des Kantons Nidwalden und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 27. August 2009
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Müller Küng