Sachverhalt:
A. Mit Verfügung vom 26. Juni 2009 verneinte die IV-Stelle Appenzell Ausserrhoden den geltend gemachten Anspruch des J._ auf eine Invalidenrente. Nachdem dieser mit Eingabe vom 31. August 2009 hiergegen Beschwerde erhoben hatte, setzte ihm das Verwaltungsgericht von Appenzell Ausserrhoden mit Verfügung vom 1. September 2009 eine Frist von 10 Tagen zur Leistung des Kostenvorschusses von Fr. 800.-. Diese Verfügung wurde dem Rechtsvertreter von J._ am 3. September 2009 zugestellt. Der Kostenvorschuss wurde dem kantonalen Gericht am 15. September 2009 gutgeschrieben.
B. B.a Der Präsident des Verwaltungsgerichts von Appenzell Ausserrhoden trat mit Entscheid vom 5. Oktober 2009 auf die Beschwerde wegen verspäteter Leistung des Kostenvorschusses nicht ein.
B.b Am 19. Oktober 2009 liess J._ beim kantonalen Gericht ein Gesuch um "Wiederherstellung der Frist/Wiedererwägung des Entscheides" einreichen. Mit Entscheid vom 19. November 2009 trat dieses sowohl auf das Gesuch um Wiedererwägung als auch auf das Gesuch um Wiederherstellung der Frist zur Leistung des Kostenvorschusses nicht ein.
C. C.a Gegen den vorinstanzlichen Entscheid vom 5. Oktober 2009 lässt J._ mit Eingabe vom 12. November 2009 Beschwerde in öffentlich-rechtlichen Angelegenheiten einreichen mit dem Antrag, das kantonale Gericht sei anzuweisen, auf die Beschwerde vom 31. August 2009 einzutreten. Gleichzeitig ersucht er um Sistierung des Verfahrens bis zur Erledigung des Wiedererwägungs- und Fristwiederherstellungsgesuchs vom 19. Oktober 2009.
IV-Stelle und Bundesamt für Sozialversicherungen verzichten auf eine Stellungnahme.
C.b Mit Eingabe vom 10. Dezember 2009 lässt J._ auch gegen den vorinstanzlichen Entscheid vom 19. November 2009 betreffend Wiedererwägung und Fristwiederherstellung Beschwerde einreichen und beantragen, der mit Valuta 15. September 2009 geleistete Kostenvorschuss von Fr. 800.- sei als rechtzeitig zu bezeichnen. Zudem ersucht er um Vereinigung mit dem hängigen Verfahren betreffend den kantonalen Nichteintretensentscheid vom 5. Oktober 2009.

Erwägungen:
1. Die Eingaben des Beschwerdeführers richten sich gegen zwei verschiedene Entscheide, stehen jedoch in einem engen sachlichen und prozessualen Zusammenhang. Die beiden Beschwerden beziehen sich auf den gleichen Sachverhalt und verfolgen den gleichen Zweck, nämlich die beschwerdeweise Überprüfung der Verwaltungsverfügung vom 25. Juni 2009. Es rechtfertigt sich deshalb, die Verfahren in sinngemässer Anwendung von <ref-law> in Verbindung mit <ref-law> zu vereinigen und durch ein einziges Urteil zu erledigen (vgl. Urteil 2A.48/2006 vom 3. November 2006 E. 1, nicht publ. in: <ref-ruling>).
2. Die form- und fristgerecht eingereichten Beschwerden richten sich gegen die Nichteintretensentscheide des Verwaltungsgerichts vom 5. Oktober 2009 und vom 19. November 2009. Bei beiden handelt es sich um Endentscheide im Sinne von <ref-law> in Verbindung mit Art. 82 Abs. 1 lit. a und Art. 86 Abs. 1 lit. d BGG und damit um zulässige Anfechtungsobjekte. Da ein Ausnahmetatbestand gemäss <ref-law> nicht vorliegt und auch die übrigen Prozessvoraussetzungen gemäss Art. 89 und <ref-law> erfüllt sind, ist auf die Beschwerden einzutreten.
3. 3.1 Im Rahmen der Beschwerde in öffentlich-rechtlichen Angelegenheiten ist die Überprüfungsbefugnis des Bundesgerichts in tatsächlicher Hinsicht dahingehend eingeschränkt, dass es die vorinstanzliche Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen kann, wenn sie offensichtlich unrichtig ist oder wenn sie auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>; vgl. auch <ref-law>; Ausnahme: Beschwerden gemäss <ref-law> [<ref-law>]). Neue Tatsachen und Beweismittel dürfen nur soweit vorgebracht werden, als der Entscheid der Vorinstanz dazu Anlass gibt (<ref-law>).
3.2 Rechtsverletzungen im Sinne von <ref-law> prüft das Bundesgericht grundsätzlich frei, einschliesslich die Frage, ob die Auslegung und Anwendung des kantonalen Rechts zu einer Bundesrechtswidrigkeit führt respektive den Grundsatz der derogatorischen Kraft des Bundesrechts verletzt (<ref-law>; vgl. auch HANSJÖRG SEILER, Bundesgerichtsgesetz [BGG], 2007, N. 21 zu Art. 95). Im Übrigen prüft das Bundesgericht die Handhabung des kantonalen Rechts - vorbehältlich der in Art. 95 lit. c und d BGG genannten Fälle - bloss auf Willkür hin (<ref-law>). Willkürlich ist ein Entscheid rechtsprechungsgemäss nicht schon dann, wenn eine andere Lösung ebenfalls vertretbar erscheint oder gar vorzuziehen wäre, sondern erst dann, wenn er offensichtlich unhaltbar ist, zur tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft. Willkür liegt nur vor, wenn nicht bloss die Begründung eines Entscheides, sondern auch das Ergebnis unhaltbar ist (<ref-ruling> E. 3.1 S. 153; <ref-ruling> E. 5.1 S. 17 f.; <ref-ruling> E. 3.1 S. 473 f., je mit Hinweisen).
4. Der vorinstanzliche Entscheid stützt sich auf Art. 21 des Gesetzes über die Verwaltungsrechtspflege des Kantons Appenzell Ausserrhoden vom 9. September 2002 (VRPG, bGS 143.1). Danach kann von der rekurs- oder beschwerdeführenden Partei ein Kostenvorschuss verlangt werden (Satz 1). Es ist ihr eine angemessene Frist anzusetzen und ihr anzudrohen, dass im Säumnisfall auf das Rechtsmittel nicht eingetreten werde (Satz 2). In Anwendung dieser Bestimmung ist der Beschwerdeführer nach den unter Vorbehalt von <ref-law> verbindlichen Feststellungen der Vorinstanz am 1. September 2009 schriftlich aufgefordert worden, innert 10 Tagen einen Kostenvorschuss von Fr. 800.- zu leisten, dies unter Hinweis darauf, dass bei unbenütztem Ablauf der Zahlungsfrist auf die Beschwerde nicht eingetreten werde. Der Kostenvorschuss sei erst am 15. September 2009 und somit nach Ablauf der am 14. September 2009 endenden Frist geleistet worden. Die Voraussetzungen seien daher offensichtlich erfüllt, um auf die eingereichte Beschwerde nicht einzutreten.
5. 5.1 Der Beschwerdeführer wirft dem kantonalen Gericht Willkür und Verstoss gegen den Grundsatz von Treu und Glauben (<ref-law>) sowie überspitzten Formalismus (<ref-law>) vor. Überdies rügt er, hinsichtlich Fristberechnung und Fristlänge in einem die Invalidenversicherung betreffenden kantonalen Gerichtsverfahren sei nicht kantonales Recht, sondern das Bundesgesetz über den allgemeinen Teil des Sozialversicherungsrechts (ATSG) massgebend, welches nur dreissigtägige Fristen kenne. Der Zahlungsauftrag an die Postfinance sei am 8. September 2009 abgeschickt worden. Zahlungsaufträge würden seit einiger Zeit mit B-Post befördert mit der Folge, dass sie spätestens am dritten Arbeitstag nach der Aufgabe eintreffen sollten. Bei einem Eintreffen am 11. September 2009 könne ohne weiteres vorausgesetzt werden, dass Belastung und Gutschrift spätestens am 14. September 2009 erfolgen würden. Mit der Übergabe des Belastungsauftrages an die Schweizerische Post innerhalb der zehntägigen Frist sei diese gewahrt. Dieses Vorgehen habe bisher in der Praxis nie zu Problemen geführt.
5. 5.1 Der Beschwerdeführer wirft dem kantonalen Gericht Willkür und Verstoss gegen den Grundsatz von Treu und Glauben (<ref-law>) sowie überspitzten Formalismus (<ref-law>) vor. Überdies rügt er, hinsichtlich Fristberechnung und Fristlänge in einem die Invalidenversicherung betreffenden kantonalen Gerichtsverfahren sei nicht kantonales Recht, sondern das Bundesgesetz über den allgemeinen Teil des Sozialversicherungsrechts (ATSG) massgebend, welches nur dreissigtägige Fristen kenne. Der Zahlungsauftrag an die Postfinance sei am 8. September 2009 abgeschickt worden. Zahlungsaufträge würden seit einiger Zeit mit B-Post befördert mit der Folge, dass sie spätestens am dritten Arbeitstag nach der Aufgabe eintreffen sollten. Bei einem Eintreffen am 11. September 2009 könne ohne weiteres vorausgesetzt werden, dass Belastung und Gutschrift spätestens am 14. September 2009 erfolgen würden. Mit der Übergabe des Belastungsauftrages an die Schweizerische Post innerhalb der zehntägigen Frist sei diese gewahrt. Dieses Vorgehen habe bisher in der Praxis nie zu Problemen geführt.
5.2 5.2.1 Das Beschwerdeverfahren bei Streitigkeiten um die Bewilligung oder Verweigerung von IV-Leistungen vor dem kantonalen Versicherungsgericht ist aufgrund von <ref-law>, in Abweichung von <ref-law>, kostenpflichtig, wovon auch der Beschwerdeführer ausgeht. Die Kostenpflicht als solche schliesst die Befugnis zur Erhebung eines Kostenvorschusses nicht mit ein. Dafür bedarf es einer eigenständigen Grundlage in einem formellen Gesetz, welche sich für das IV-Verfahren weder in <ref-law> noch im ATSG findet. Es bleibt daher den Kantonen im Rahmen ihrer verfahrensrechtlichen Regelungszuständigkeit gemäss <ref-law> anheimgestellt, eine Kostenvorschusspflicht vorzusehen oder nicht. Tun sie dies, müssen nebst der Vorschusspflicht als solcher auch die verfahrensrechtlichen Folgen der Nichtbezahlung des Kostenvorschusses formellgesetzlich geregelt sein, andernfalls das Legalitätsprinzip verletzt ist (<ref-ruling> E. 3.4 S. 405 und E. 4.3 S. 407). Im Urteil 9C_715/2007 vom 17. Juni 2008 E. 6.2.2 hat das Bundesgericht erwogen, Art. 21 VRPG bilde eine präzise formellgesetzliche und somit rechtsgenügliche Grundlage sowohl für die Erhebung eines Kostenvorschusses unter Fristansetzung als auch für die Androhung des Nichteintretens im Säumnisfall.
5.2.2 Entgegen den Vorbringen des Beschwerdeführers liegt in der vom kantonalen Richter gestützt auf Art. 21 VRPG auf 10 Tage festgesetzten Frist zur Leistung des Kostenvorschusses keine Rechtsverletzung im Sinne von <ref-law> begründet. Für das im Rahmen von <ref-law> kantonalrechtlich geregelte Verfahren vor dem kantonalen Sozialversicherungsgericht besteht keine Vorschrift des Bundesrechts, welche den Kantonen die Ansetzung einer 30-tägigen Frist für die Leistung des Kostenvorschusses vorschreibt. Dass das ATSG grundsätzlich nur 30-tägige Fristen kennt, bedeutet nicht, dass dies auch für die Kantone gelten müsste. Im Unterschied zu den gesetzlichen Fristen steht mit der Zahlungsfrist für den Kostenvorschuss gemäss prozessleitender Verfügung vom 1. September 2009 eine richterliche Frist in Frage, welche nach Art. 6 Abs. 1 VRPG erstreckt werden kann, wenn vor Fristablauf schriftlich darum ersucht wird. Der Beschwerdeführer hätte daher rechtzeitig eine Verlängerung beantragen können, wenn es ihm nicht möglich gewesen wäre, innerhalb der gesetzten Frist zu handeln (vgl. StR 63/2008 S. 891, 2C_261/2007 sowie Urteil 2A.152/2001 vom 2. Oktober 2001 E. 2d).
5.2.3 Das Nichteintreten auf eine Beschwerde mangels rechtzeitiger Leistung des Kostenvorschusses stellt keinen überspitzten Formalismus dar, sofern die Partei über die Höhe des Vorschusses, die Zahlungsfrist und die Säumnisfolgen rechtsgenüglich informiert wurde (Urteile 2C_645/2008 vom 24. Juni 2009 E. 2.2, 9C_715/2007 vom 17. Juni 2008 E. 6.3.2 mit Hinweisen). Dass diese Voraussetzung bei der Kostenvorschussverfügung vom 1. September 2009 nicht erfüllt gewesen wäre, macht der Beschwerdeführer nicht geltend. Diese verlangte die Überweisung des Betrages von Fr. 800.- innerhalb von 10 Tagen, unter Androhung des Nichteintretens für den Fall der nicht fristgemässen Bezahlung und war somit hinreichend klar.
5.2.3 Das Nichteintreten auf eine Beschwerde mangels rechtzeitiger Leistung des Kostenvorschusses stellt keinen überspitzten Formalismus dar, sofern die Partei über die Höhe des Vorschusses, die Zahlungsfrist und die Säumnisfolgen rechtsgenüglich informiert wurde (Urteile 2C_645/2008 vom 24. Juni 2009 E. 2.2, 9C_715/2007 vom 17. Juni 2008 E. 6.3.2 mit Hinweisen). Dass diese Voraussetzung bei der Kostenvorschussverfügung vom 1. September 2009 nicht erfüllt gewesen wäre, macht der Beschwerdeführer nicht geltend. Diese verlangte die Überweisung des Betrages von Fr. 800.- innerhalb von 10 Tagen, unter Androhung des Nichteintretens für den Fall der nicht fristgemässen Bezahlung und war somit hinreichend klar.
5.3 5.3.1 Auch bezüglich der Fristeinhaltung für die Bezahlung des Kostenvorschusses geht es laut UELI KIESER (ATSG-Kommentar, 2009, N. 3 zu <ref-law>) um eine durch das kantonale Recht zu ordnende Frage, auf welche <ref-law> in Verbindung mit <ref-law> nicht zur Anwendung kommt. Etwas anderes wird vom Beschwerdeführer auch nicht geltend gemacht. Wie es sich damit verhält, braucht jedoch nicht abschliessend beurteilt zu werden, da Art. 5 Abs. 2 VRPG eine ähnliche Regelung enthält. Danach gilt eine Frist als eingehalten, wenn bis zu diesem Zeitpunkt die betreffende Handlung vorgenommen oder schriftliche Eingaben der schweizeri-schen Post oder einer schweizerischen diplomatischen oder konsulari-schen Vertretung übergeben worden sind. Wenn das kantonale Gericht diese Regelung analog auch für die fristgemässe Einzahlung eines Kostenvorschusses als massgebend betrachtet, ist darin keine willkürliche Anwendung kantonalen Rechts zu erblicken, wovon auch der Beschwerdeführer ausgeht. Entgegen der Auffassung des Beschwerdeführers sind die Kantone nicht verpflichtet, die Regelung von <ref-law> zu übernehmen (vgl. zudem den bis 31. Dezember 2006 in Kraft gestandenen Art. 32 Abs. 3 OG).
5.3.2 Die Rechtzeitigkeit der Bezahlung des Kostenvorschusses hat die zahlungspflichtige Partei zu beweisen, wobei für diese prozessuale Frage nicht der sonst im Sozialversicherungsrecht übliche Beweisgrad der überwiegenden Wahrscheinlichkeit, sondern der volle Beweis gilt (<ref-ruling> E. 3b S. 6, 119 V 7 E. 3c/bb S. 10; AMSTUTZ/ARNOLD, in: Basler Kommentar, Bundesgerichtsgesetz, 2008, N. 29 zu <ref-law>).
5.3.3 Das kantonale Gericht hat erwogen, es sei durch nichts bewiesen, wann der Zahlungsauftrag der Post übergeben und welches Fälligkeitsdatum vermerkt worden sei, was selbst der Beschwerdeführer einräume. Abgesehen davon erweise sich die Versendung des Zahlungsauftrages mit B-Post als unvorsichtig, da jedermann bekannt sei, dass solche Sendungen öfters länger unterwegs seien. Mit einer Zahlung am Postschalter oder der Aufgabe der Zahlungsanweisung per Einschreiben oder mit A-Post oder elektronisch hätte die Frist ohne weiteres eingehalten werden können. Der Beschwerdeführer bringt nicht vor, dass es ihm unzumutbar oder unmöglich gewesen wäre, sich einer anderen Zahlungsmodalität zu bedienen, welche ihm eine Ausnützung der ganzen Zahlungsfrist erlaubt hätte.
5.3.4 Mit der Beschwerde vom 10. Dezember gegen den vorinstanzlichen Wiedererwägungs- und Fristwiederherstellungsentscheid legt der Beschwerdeführer neu eine Anfrage an die Schweizerische Post vom 23. November 2009 sowie deren Antwortschreiben vom 30. November 2009, das verwendete Zustellungskuvert, eine Kopie des Zahlungsauftrages sowie den Zahlungsbeleg auf. Abgesehen davon, dass es sich bei den erst im Nachgang zum angefochtenen Entscheid vom 19. November 2009 erwirkten Erklärungen der Postfinance sowie den weiteren Dokumenten um unzulässige Noven handelt (<ref-law>), könnte damit der Zeitpunkt der Übergabe des Giromandats an die Schweizerische Post nicht belegt werden. Weder aus dem eingereichten Kuvert, auf dem kein Poststempel angebracht ist, noch aus dem Postabschnitt des Zahlungsauftrages mit Ausstellungsdatum "10.09.09", das nicht notwendigerweise mit dem Datum der Postaufgabe übereinstimmt und dem Ausführungsdatum "sofort nach Erhalt", lässt sich auf ein fristgerechtes Handeln des Beschwerdeführers schliessen. Auch mit dem Hinweis auf den üblichen Ablauf bei der Postfinance lässt sich der Beweis nicht erbringen, da nicht ausgeschlossen werden kann, dass Zahlungsauftrag und Verarbeitung im Postzentrum am 15. September 2009 erfolgten (vgl. <ref-ruling> E. 3b S. 6 unten; Urteile 4A.245/2008 vom 7. August 2008 E. 3.2, U 146/06 vom 30. Mai 2006 E. 2.2, 5P.238/2004 vom 9. August 2004 E. 4). Die Vorinstanz ist daher nicht in Willkür verfallen, wenn sie den Nachweis der rechtzeitigen Einzahlung als nicht erbracht betrachtet hat.
5.4 Auch aus dem Grundsatz von Treu und Glauben vermag der Beschwerdeführer nichts zu seinen Gunsten abzuleiten. Wie bereits das kantonale Gericht festgehalten hat, ging in den von ihm angeführten Beispielen die Behörde ebenfalls davon aus, der Zahlungsauftrag müsse innerhalb der Frist von 10 Tagen der Post übergeben werden. Eine ungleiche Gerichtspraxis sei jedenfalls nicht nachgewiesen. Beweispflichtig für den Zeitpunkt der Übergabe bleibt in jedem Fall der Zahlungspflichtige.
6. 6.1 Das kantonale Gericht ist auf das Fristwiederherstellungsgesuch nicht eingetreten, weil der Beschwerdeführer das Gesuch nicht im Sinne von Art. 6 Abs. 2 VRPG innert 5 Tagen seit Wegfall des Grundes eingereicht habe, der die Einhaltung der Frist verhindert habe. Gemäss dieser Bestimmung kann eine versäumte Frist wiederhergestellt werden, wenn für die Säumnis entschuldbare Gründe vorliegen; das Gesuch um Wiederherstellung ist schriftlich und begründet innert fünf Tagen seit Wegfall des Grundes, der die Einhaltung der Frist verhindert hat, einzureichen. Laut Vorinstanz hat der Rechtsvertreter des Beschwerdeführers nach Erhalt der Belastungsanzeige am 17. oder 18. September 2009 gewusst, dass der Kostenvorschuss verspätet erfolgt sei. Mit der Gesuchseinreichung vom 19. Oktober 2009 sei die 5-tägige Frist daher nicht eingehalten worden.
6.2 Der Beschwerdeführer stellt sich hingegen - wie bereits im Fristwiederherstellungsgesuch vom 19. Oktober 2009 - auf den Standpunkt, bis zum Entscheid des Verwaltungsgerichts vom 5. Oktober 2009 sei er davon ausgegangen, die Zahlung sei als rechtzeitig erfolgt zu betrachten, wenn der Zahlungsauftrag der Post am letzten Tag der Frist übergeben worden sei. Ob die Gutschrift am 14. oder am 15. September erfolge, sei bei dieser Betrachtungsweise unerheblich. Der Entscheid sei ihm am 13. Oktober 2009 zugestellt worden, weshalb die 5-tägige Frist mit der Einreichung des Fristwiederherstellungsgesuchs am 19. Oktober 2009 gewahrt sei. Darüber hat das kantonale Gericht keine Feststellungen getroffen, und es hat sich auch nicht mit dem Vorbringen des Beschwerdeführers auseinandergesetzt. Selbst wenn der Auffassung des Beschwerdeführers gefolgt und das Fristwiederherstellungsgesuch als innerhalb der 5-tägigen Frist gemäss Art. 6 Abs. 2 VRPG eingereicht und damit als rechtzeitig zu betrachten wäre, würde dies zu keinem anderen Ergebnis führen, wie die nachstehenden Erwägungen zeigen.
6.2 Der Beschwerdeführer stellt sich hingegen - wie bereits im Fristwiederherstellungsgesuch vom 19. Oktober 2009 - auf den Standpunkt, bis zum Entscheid des Verwaltungsgerichts vom 5. Oktober 2009 sei er davon ausgegangen, die Zahlung sei als rechtzeitig erfolgt zu betrachten, wenn der Zahlungsauftrag der Post am letzten Tag der Frist übergeben worden sei. Ob die Gutschrift am 14. oder am 15. September erfolge, sei bei dieser Betrachtungsweise unerheblich. Der Entscheid sei ihm am 13. Oktober 2009 zugestellt worden, weshalb die 5-tägige Frist mit der Einreichung des Fristwiederherstellungsgesuchs am 19. Oktober 2009 gewahrt sei. Darüber hat das kantonale Gericht keine Feststellungen getroffen, und es hat sich auch nicht mit dem Vorbringen des Beschwerdeführers auseinandergesetzt. Selbst wenn der Auffassung des Beschwerdeführers gefolgt und das Fristwiederherstellungsgesuch als innerhalb der 5-tägigen Frist gemäss Art. 6 Abs. 2 VRPG eingereicht und damit als rechtzeitig zu betrachten wäre, würde dies zu keinem anderen Ergebnis führen, wie die nachstehenden Erwägungen zeigen.
6.3 6.3.1 Für den Fall, dass mit der Vorinstanz der Erhalt der Lastschriftbestätigung am 17. oder 18. September 2009 als fristauslösender Zeitpunkt zu betrachten wäre, macht der Beschwerdeführer geltend, bezüglich der Fristwiederherstellung gehe <ref-law> dem kantonalen Recht vor, weshalb die Frist zur Nachholung der versäumten Rechtshandlung 30 Tage betrage. Mit der Einreichung des Gesuchs am 19. Oktober 2009 sei diese eingehalten worden. Auch damit habe sich das kantonale Gericht nicht auseinandergesetzt.
6.3.2 In SVR 2009 UV Nr. 25 S. 90 (8C_767/2008 E. 4.3) hat das Bundesgericht offen gelassen, ob die in <ref-law> enthaltenen Vorgaben zur Fristwiederherstellung, welche auf Grund des Verweises in <ref-law> unmittelbar nur für die mit der Beschwerdeerhebung verbundenen Frist massgebend sind, generell über die eigentliche Beschwerdeerhebung hinaus für das kantonale Rechtsmittelverfahren Geltung beanspruchen können. Bejaht hat es die Anwendbarkeit auf die zur Einreichung einer Vertretungsvollmacht angesetzte Frist, weil diese unter die in <ref-law> geregelte Nachfristansetzung bei ausstehenden formellen Eintretensvoraussetzungen zu subsumieren sei. Sie werde zur Verbesserung von formellen Mängeln der Beschwerdeschrift angesetzt und stehe daher in einem unmittelbaren Zusammenhang zur Beschwerdeeinreichung. In einem erweiterten Sinne zähle sie zur gesetzlichen Rechtsmittelfrist und unterstehe daher ebenfalls dem Verweis von <ref-law> (8C_767/2008 E. 4.3.2). Da <ref-law> für den kantonalen Sozialversicherungsprozess keine Kostenpflicht vorsieht (vgl. E. 5.2.1 hievor), steht diese in keinem Zusammenhang mit der Beschwerdefrist gemäss <ref-law>, was gegen die Anwendbarkeit von <ref-law> spricht. Abschliessend muss jedoch auch dies nicht beurteilt werden, da die Beschwerde aus den nachstehenden Gründen ohnehin keine Aussicht auf Erfolg hat.
6.3.2 In SVR 2009 UV Nr. 25 S. 90 (8C_767/2008 E. 4.3) hat das Bundesgericht offen gelassen, ob die in <ref-law> enthaltenen Vorgaben zur Fristwiederherstellung, welche auf Grund des Verweises in <ref-law> unmittelbar nur für die mit der Beschwerdeerhebung verbundenen Frist massgebend sind, generell über die eigentliche Beschwerdeerhebung hinaus für das kantonale Rechtsmittelverfahren Geltung beanspruchen können. Bejaht hat es die Anwendbarkeit auf die zur Einreichung einer Vertretungsvollmacht angesetzte Frist, weil diese unter die in <ref-law> geregelte Nachfristansetzung bei ausstehenden formellen Eintretensvoraussetzungen zu subsumieren sei. Sie werde zur Verbesserung von formellen Mängeln der Beschwerdeschrift angesetzt und stehe daher in einem unmittelbaren Zusammenhang zur Beschwerdeeinreichung. In einem erweiterten Sinne zähle sie zur gesetzlichen Rechtsmittelfrist und unterstehe daher ebenfalls dem Verweis von <ref-law> (8C_767/2008 E. 4.3.2). Da <ref-law> für den kantonalen Sozialversicherungsprozess keine Kostenpflicht vorsieht (vgl. E. 5.2.1 hievor), steht diese in keinem Zusammenhang mit der Beschwerdefrist gemäss <ref-law>, was gegen die Anwendbarkeit von <ref-law> spricht. Abschliessend muss jedoch auch dies nicht beurteilt werden, da die Beschwerde aus den nachstehenden Gründen ohnehin keine Aussicht auf Erfolg hat.
6.4 6.4.1 Die Vorinstanz hat auch geprüft, ob ein Wiederherstellungsgrund vorliege, und hat dies verneint, weil der Beschwerdeführer keinen solchen darzutun vermöge. Weder er noch sein Rechtsvertreter seien landesabwesend, im Spital oder sonstwie handlungsunfähig gewesen. Die verspätete Zahlung gründe einzig in einer falschen Einschätzung der Schnelligkeit der Ausführung der Zahlungen durch die Post. Durch die Wahl einer anderen Versandart oder eines anderen Zahlungsmodus hätte die Frist ohne weiteres eingehalten werden können, weshalb für die Säumnis kein entschuldbarer Grund vorliege.
6.4.2 Voraussetzung für die Gewährung der Fristwiederherstellung sind entschuldbare Gründe oder ein unverschuldetes Hindernis, d.h. die Unmöglichkeit rechtzeitigen Handelns. Die Wiederherstellung ist nur bei klarer Schuldlosigkeit des Gesuchstellers bzw. seines Vertreters zu gewähren (Urteil 1P.123/2005 vom 14. Juni 2005, E. 1.3 mit zahlreichen Hinweisen). Typischer Anwendungsfall ist ein Krankheitszustand, der jegliches auf die Fristwahrung gerichtetes Handeln wie etwa den Beizug eines (Ersatz-) Vertreters verunmöglicht (vgl. <ref-ruling>; <ref-ruling>). Blosse Unkenntnis von Rechtsregeln (insbesondere verfahrensrechtlicher Natur) bzw. ein Irrtum über deren Tragweite kann grundsätzlich keinen Anlass zur Fristwiederherstellung geben, es sei denn der Irrtum sei durch eine behördliche Auskunft hervorgerufen worden (Urteil 2A.175/2006 vom 11. Mai 2006 E. 2.2.2 mit Hinweisen; AMSTUTZ/ARNOLD, a.a.O., N. 16 ff. zu <ref-law>). Der Beschwerdeführer macht einzig geltend, er sei stets davon ausgegangen, die Leistung des Kostenvorschusses mittels Zahlungsauftrag innerhalb der angesetzten Frist genüge für die Einhaltung der Frist. Damit vermag er nicht darzulegen, inwiefern der vorinstanzliche Entscheid hinsichtlich der Verneinung eines entschuldbaren Grundes und damit im Ergebnis die Bestätigung des Nichteintretens auf die Beschwerde vom 31. August 2009 rechtswidrig sein sollte. Wer das Risiko auf sich nimmt, den Zahlungsauftrag ohne Einschreiben mit B-Post zu verschicken, anstatt die Zahlung direkt am Schalter vorzunehmen, nimmt in Kauf, dass die Belastung verspätet erfolgt und der Beweis für den Zeitpunkt der Übergabe an die schweizerische Post nicht erbracht werden kann.
7. Nach dem Gesagten sind die beiden Beschwerden unbegründet und deshalb abzuweisen.
Die zu erhebenden Gerichtskosten (<ref-law>) sind ausgangsgemäss vom Beschwerdeführer zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Verfahren 8C_953/2009 und 8C_1039/2009 werden vereinigt.
2. Die Beschwerden werden abgewiesen.
3. Die Gerichtskosten von insgesamt Fr. 750.- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien, dem Versicherungsgericht von Appenzell Ausserrhoden und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 23. Februar 2010
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Ursprung Hofer