Die Präsidentin zieht in Erwägung:
1.
Der Beschwerdeführer erhob Verwaltungsgerichtsbeschwerde gegen den Entscheid des Vollzugs- und Bewährungsdienstes des Kantons Zug vom 15. Juni 2021 betreffend das Aufgebot zum Strafantritt auf den 2. November 2021. Das Verwaltungsgericht des Kantons Zug schrieb das Verfahren am 16. August 2021 vom Geschäftsverzeichnis ab, weil der Beschwerdeführer der gerichtlichen Aufforderung zur Bezahlung des Kostenvorschusses von Fr. 1'000.-- innert Frist keine Folge leistete. Gegen diesen Abschreibungsentscheid wendet sich der Beschwerdeführer mit Beschwerde vom 10. September 2021 an das Bundesgericht. Er beantragt einen Strafaufschub des Strafantritts von vier Monaten auf den 1. März 2022, eventualiter einen solchen von sieben Monaten auf den 1. Juni 2022.
2.
Nach <ref-law> ist in der Begründung einer Beschwerde in gedrängter Form darzulegen, inwiefern der angefochtene Entscheid Recht verletzt. Nicht unmittelbar gerügt werden kann die Verletzung von kantonalem Gesetzesrecht. Beruht der angefochtene Entscheid wie vorliegend auf kantonalem (Verfahrens-) Recht, kann im Wesentlichen bloss die Verletzung verfassungsmässiger Rechte, namentlich Willkür bei dessen Anwendung, gerügt werden; entsprechende Rügen bedürfen gemäss <ref-law> besonderer Geltendmachung und Begründung (<ref-ruling> E. 3.3.1; <ref-ruling> E. 3.3.1).
3.
Vor Bundesgericht kann es nur darum gehen, ob die Vorinstanz die Behandlung der kantonalen Verwaltungsgerichtsbeschwerde von der Leistung eines Kostenvorschusses abhängig machen und auf das Rechtsmittel mangels Leistung des Kostenvorschusses innert Frist nicht eintreten durfte. Mit der Frage des versäumten Kostenvorschusses befasst sich der Beschwerdeführer in seiner Eingabe vor Bundesgericht indessen nicht. Er legt weder dar, inwiefern das auf § 26 des Verwaltungsrechtspflegegesetzes des Kantons Zug (VRG/ZG, BGS 162.1) gestützte Vorgehen der Vorinstanz willkürlich sein könnte, noch macht er geltend, dass er vor Vorinstanz bzw. im kantonalen Verfahren ein begründetes und belegtes Gesuch um unentgeltliche Rechtspflege gestellt hätte. Stattdessen äussert er sich in seiner Beschwerde nur zur materiellen Seite der Angelegenheit, welche nicht Verfahrensgegenstand bildet und womit sich das Bundesgericht folglich auch nicht befassen kann. Aus der Beschwerde ergibt sich mithin nicht im Ansatz, inwiefern die Vorinstanz mit ihrem Abschreibungsentscheid gegen das Recht im Sinne von <ref-law> verstossen haben könnte. Die Beschwerde genügt den gesetzlichen Begründungsanforderungen offensichtlich nicht, weshalb darauf im Verfahren nach <ref-law> nicht einzutreten ist.
4.
Die Gerichtskosten sind dem Beschwerdeführer aufzuerlegen (<ref-law>). Das Gesuch um unentgeltliche Rechtspflege ist wegen Aussichtslosigkeit der Rechtsbegehren abzuweisen. Seinen finanziellen Verhältnissen ist bei der Kostenfestsetzung Rechnung zu tragen (Art. 64, Art. 65 und <ref-law>). Mit dem vorliegenden Entscheid wird das Gesuch um aufschiebende Wirkung gegenstandslos.

Demnach erkennt die Präsidentin:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3.
Die Gerichtskosten von Fr. 500.-- werden dem Beschwerdeführer auferlegt.
4.
Dieses Urteil wird den Parteien und dem Verwaltungsgericht des Kantons Zug, Verwaltungsrechtliche Kammer, schriftlich mitgeteilt.
Lausanne, 6. Oktober 2021
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Jacquemoud-Rossari
Die Gerichtsschreiberin: Arquint Hill