Sachverhalt:
A. Gegen die beiden Einspracheentscheide vom 27. März 2007, mit welchen sie von der Steuerverwaltung des Kantons Appenzell-Ausserrhoden für die Staats- und Gemeindesteuern 2004 einerseits und für die direkte Bundessteuer 2004 andererseits eingeschätzt wurden, gelangten X._ und Y._ mit zwei Eingaben ans Verwaltungsgericht von Appenzell-Ausserrhoden. Mit Schreiben vom 25. April 2007 forderte dieses sie auf, innert zehn Tagen einen Kostenvorschuss von 150 Franken pro Verfahren zu bezahlen, ansonsten auf die Beschwerden nicht eingetreten werde. Am 7. Mai 2007 stellten die Ehegatten X._ und Y._ ein Fristerstreckungsgesuch; die verlangten Kostenvorschüsse zahlten sie dann am 9. Mai 2007 auf der Poststelle in Zürich-Oerlikon ein. Mit Entscheid vom 24. Mai 2007 ist das Verwaltungsgericht auf ihre Beschwerden nicht eingetreten, weil sowohl das Fristerstreckungsgesuch als auch die Zahlung der Kostenvorschüsse verspätet erfolgt sei.
B. Am 2. Juni 2007 haben X._ und Y._ beim Bundesgericht Beschwerde in öffentlich-rechtlichen Angelegenheiten eingereicht mit dem Antrag, den Nichteintretensentscheid des Verwaltungsgerichts aufzuheben. Sie behaupten zunächst, das Fristverlängerungsgesuch rechtzeitig gestellt zu haben; weiter machen sie geltend, die für die Bezahlung des Kostenvorschusses angesetzte Frist sei mit zehn Tagen zu kurz bemessen gewesen. Sie rügen insbesondere, das Verwaltungsgericht habe das kantonale Prozessrecht offensichtlich unrichtig gehandhabt und so das Willkürverbot (<ref-law>; vgl. <ref-ruling> E. 5a S. 70) verletzt.
Die Steuerverwaltung und das Verwaltungsgericht des Kantons Appenzell-Ausserrhoden sowie die Eidgenössische Steuerverwaltung schliessen je auf Abweisung der Beschwerde.

Erwägungen:
1. Die Beschwerdeführer sind zur Leistung eines Kostenvorschusses von insgesamt 300 Franken verpflichtet worden, wobei die ihnen zu dessen Bezahlung angesetzte Frist bis zum 7. Mai 2007 lief. Es ist unbestritten, dass sie ihr Fristverlängerungsgesuch am letzten Tag der Zahlungsfrist um 21:00 Uhr der Post übergeben haben, und dass das Gesuch tags darauf beim Verwaltungsgericht eingetroffen ist. Letzteres erachtete das Gesuch als verspätet und trat wegen nicht rechtzeitiger Leistung des Kostenvorschusses (androhungsgemäss) auf die Beschwerden nicht ein. Erst aus der Vernehmlassung, welche das Verwaltungsgericht im bundesgerichtlichen Verfahren eingereicht hat, ist ersichtlich, dass es sich insoweit nicht um ein Versehen handelte; vielmehr betrachtet das Verwaltungsgericht offenbar in ständiger Rechtsprechung nur solche Fristverlängerungsgesuche als rechtzeitig, welche vor Fristablauf beim ihm eintreffen.
2. Das Gesetz über die Verwaltungsrechtspflege im Kanton Appenzell Ausserrhoden (VRPG/AR) enthält eine ausdrückliche Regelung von Fristenlauf und Fristwahrung. Gemäss dieser können die behördlichen Fristen - im Unterschied zu den gesetzlichen - erstreckt werden, wenn vor Fristablauf schriftlich darum ersucht wird (Art. 6 Abs. 1 VRPG/AR). Der Rechtsuchende hat eine laufende Frist dann eingehalten, wenn er die betreffende Handlung spätestens bis Mitternacht des letzten Tages der Frist vornimmt; schriftliche Eingaben sind bis zu diesem Zeitpunkt der schweizerischen Post bzw. einer schweizerischen diplomatischen oder konsularischen Vertretung zu übergeben (Art. 5 Abs. 2 VRPG/AR).
2.1 Mit Blick auf diese Regelung leuchtet nicht ein, weshalb das Fristerstreckungsgesuch der Beschwerdeführer verspätet sein sollte. Zum einen steht mit der Zahlungsfrist für den Kostenvorschuss eine richterliche Frist in Frage, welche nach Art. 6 Abs. 1 VRPG/AR (auf begründetes Gesuch hin) erstreckt werden kann. Zum anderen haben die Beschwerdeführer das Fristerstreckungsgesuch am letzten Tag der Zahlungsfrist der schweizerischen Post übergeben und somit gemäss Art. 5 Abs. 2 VRPG/AR rechtzeitig gehandelt. Das Verwaltungsgericht hat sich denn auch ganz bewusst über die dargestellte Regelung hinweggesetzt und den angefochtenen Entscheid gestützt auf eine abweichende Praxis gefällt. Nach dieser reicht es bei einem Fristverlängerungsgesuch nicht aus, wenn es am letzten Tag der Frist abgeschickt wird, sondern es ist zusätzlich erforderlich, dass es auch vor Fristablauf beim Gericht eintrifft. Zur Begründung dieser Rechtsprechung führt das Verwaltungsgericht aus, nur so könne sichergestellt werden, dass vor Ablauf der Frist über deren Erstreckung entschieden werde und die Beschwerdeführer nicht eine faktische Fristverlängerung zu erzwingen vermöchten (vgl. zur entsprechenden Praxis in den Kantonen Zürich und Bern: Alfred Kölz/Jürg Bosshart/Martin Röhl, Kommentar zum Verwaltungsrechtspflegegesetz des Kantons Zürich, 2. Auflage, Zürich 1999, N 10 zu § 12; Thomas Merkli/Arthur Aeschlimann/Ruth Herzog, Kommentar zum Gesetz über die Verwaltungsrechtspflege im Kanton Bern, Bern 1997, N 4 zu Art. 42 und N 3 zu Art. 43; vgl. auch Jean- François Poudret, Commentaire de la loi fédérale d'organisation judiciaire du 16 décembre 1942, Bd. I, Bern 1992, N 2 i.f. zu Art. 33). Es mag zwar zutreffen, dass ein Beschwerdeführer ein beträchtliches Risiko eingeht, wenn er erst am letzten Tag der Frist ein Verlängerungsgesuch einreicht, weil er bei abschlägigem Entscheid unter Umständen nicht mehr rechtzeitig reagieren kann. Auf dieser Überlegung fussen die erwähnten Literaturstellen und kantonalen Praxen (vgl. auch Leuch/Marbach/Kellerhals/Sterchi, Die Zivilprozessordnung für den Kanton Bern, 5. Auflage, Bern 2000, N 2 zu Art. 116; s. ferner BVR 1999 S. 382 ff.). Als verspätet kann ein Gesuch deswegen unter Gegebenheiten wie hier aber nicht bezeichnet werden.
2.2 Die Regelung von Art. 6 Abs. 1 und Art. 5 Abs. 2 VRPG/AR entspricht einem allgemeinen Grundsatz des schweizerischen Prozessrechts (Urteil 1A.94/2002 vom 2. Juli 2002, E.2.2.1), wie er insbesondere auch in <ref-law> und <ref-law> zum Ausdruck kommt. Gemäss dem klaren Wortlaut von Art. 5 Abs. 2 VRPG/AR können befristete Rechtshandlungen bis um Mitternacht des letzten Tages der Frist vorgenommen werden, wobei es für schriftliche Eingaben genügt, wenn diese bis zum betreffenden Zeitpunkt der schweizerischen Post übergeben werden. Eine Sonderregelung für Fristverlängerungsgesuche im Allgemeinen oder Gesuche um Verlängerung der Zahlungsfrist für den Kostenvorschuss im Besonderen ist weder in Art. 5 VRPG/AR noch im die Kostenvorschusspflicht regelnden Art. 21 VRPG/AR noch anderswo im einschlägigen kantonalen Recht vorgesehen. Weil das Verwaltungsgericht seine Praxis demnach nicht auf eine Gesetzesbestimmung zu stützen vermag, hält diese vor <ref-law> nicht stand. Sollen für einzelne Arten von prozessualen Rechtshandlungen spezielle, von den allgemeinen abweichende Regeln für die Fristwahrung gelten, so setzt dies eine ausdrückliche entsprechende Normierung voraus. Mangels einer solchen muss der Rechtsuchende darauf vertrauen können, dass die Regelung von Art. 5 Abs. 2 in Verbindung mit Art. 6 Abs. 1 VRPG/AR, welche den landesweit anerkannten allgemeinen Grundsätzen entspricht, auf sämtliche behördliche Fristen Anwendung findet.
3. Nach dem Gesagten verstösst der angefochtene Entscheid gegen das Willkürverbot und ist aufzuheben.
Bei diesem Verfahrensausgang wird der Kanton Appenzell-Ausserrhoden kostenpflichtig (<ref-law> e contrario). Er hat zudem die - durch einen Steuerberater vertretenen - Beschwerdeführer für deren Aufwendungen im Zusammenhang mit dem bundesgerichtlichen Verfahren angemessen zu entschädigen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird gutgeheissen, der Entscheid des Verwaltungsgerichts von Appenzell-Ausserrhoden vom 24. Mai 2007 aufgehoben und die Sache zu neuem Entscheid an dieses zurückgewiesen.
2. Die Gerichtskosten von Fr. 1'500.-- werden dem Kanton Appenzell-Ausserrhoden auferlegt.
3. Der Kanton Appenzell-Ausserrhoden hat die Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 1'500.-- zu entschädigen.
4. Dieses Urteil wird den Beschwerdeführern, der Steuerverwaltung des Kantons Appenzell-Ausserrhoden, dem Verwaltungsgericht von Appenzell-Ausserrhoden und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 29. September 2008
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Merkli Häberli