Die Präsidentin zieht in Erwägung:
1.
Der Beschwerdeführer wandte sich gegen den Rekursentscheid des Departements Inneres und Sicherheit vom 20. Mai 2021 betreffend Aufgebot zum Strafantritt an das Obergericht Appenzell Ausserrhoden. Dieses trat am 16. Juli 2021 gestützt auf Art. 21 des kantonalen Gesetzes über die Verwaltungsrechtspflege (VRPG, bGS 143.1) auf die Beschwerde nicht ein, weil der Beschwerdeführer der gerichtlichen Aufforderung zur Bezahlung des Kostenvorschusses von Fr. 800.-- innert Frist keine Folge geleistet hatte.
Das Obergericht hat die bei ihm eingereichte Eingabe inkl. die mit handschriftlichen Anmerkungen und Streichungen des Beschwerdeführers "korrigierte" angefochtene Verfügung am 18. August 2021 an das Bundesgericht weitergeleitet.
2.
Die weitergeleitete Eingabe wird als Beschwerde in Strafsachen im Sinne von <ref-law> entgegengenommen. Aus der an das Bundesgericht gerichteten Eingabe vom 23. August 2021 (Poststempel) lässt sich nicht klar entnehmen, ob damit die Beschwerde allfällig zurückgezogen werden soll. Auf eine diesbezügliche Nachfrage vom 30. August 2021 reagierte der Beschwerdeführer nicht. Es ist davon auszugehen, dass er an der Beschwerde festhält.
3.
Nach <ref-law> ist in der Begründung einer Beschwerde in gedrängter Form darzulegen, inwiefern der angefochtene Entscheid Recht verletzt.
4.
Vor Bundesgericht kann es nur darum gehen, ob die Vorinstanz die Behandlung der Beschwerde von der Leistung eines Kostenvorschusses abhängig machen und auf die Beschwerde mangels Leistung des Kostenvorschusses nicht eintreten durfte. Mit der Frage des versäumten Kostenvorschusses befasst sich der Beschwerdeführer in seiner Eingabe nicht. Er legt weder dar, inwiefern das auf Art. 21 VRPG gestützte Vorgehen der Vorinstanz willkürlich sein könnte, noch macht er geltend, dass er vor Vorinstanz bzw. im kantonalen Verfahren ein begründetes und belegtes Gesuch um unentgeltliche Rechtspflege gestellt hätte. Aus der Beschwerde ergibt sich mithin nicht, inwiefern die Vorinstanz mit ihrer Nichteintretensverfügung gegen das Recht im Sinne von <ref-law> verstossen haben könnte. Die Beschwerde genügt den gesetzlichen Formerfordernissen (Art. 42 Abs. 2 und 106 Abs. 2 BGG) offensichtlich nicht, weshalb darauf im Verfahren nach <ref-law> nicht einzutreten ist.
5.
Von einer Kostenauflage kann ausnahmsweise abgesehen werden (<ref-law>).

Demnach erkennt die Präsidentin:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Es werden keine Kosten erhoben.
3.
Dieses Urteil wird den Parteien und dem Obergericht Appenzell Ausserrhoden, Einzelrichter, schriftlich mitgeteilt.
Lausanne, 17. September 2021
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Jacquemoud-Rossari
Die Gerichtsschreiberin: Arquint Hill