Erwägungen:
1.
Das Amt für Justizvollzug (AJV) des Kantons Thurgau lehnte mit Entscheid vom 18. Februar 2020 das Gesuch des Beschwerdeführers um Strafverbüssung in der Vollzugsform einer gemeinnützigen Arbeitsleistung und eines elektronisch überwachten Hausarrestes ab. Den vom Beschwerdeführer dagegen erhobenen Rekurs wies das Departement für Justiz und Sicherheit des Kantons Thurgau (DJS) am 14. April 2020 ab. Dagegen führte der Beschwerdeführer Beschwerde beim Verwaltungsgericht des Kantons Thurgau, wobei er um Gewährung der unentgeltlichen Rechtspflege ersuchte. Das Verwaltungsgericht setzte dem DJS und dem AJV mit Schreiben vom 4. Mai 2020 eine Frist von 20 Tagen an zur Einreichung einer Vernehmlassung. Das AJV beantragte am 14. Mai 2020 die Abweisung der Beschwerde, verzichtete im Übrigen jedoch auf eine Stellungnahme. Das DJS reichte am 20. Mai 2020 eine ausführlich begründete Stellungnahme mit dem Antrag auf Abweisung der Beschwerde ein. Mit Entscheid vom 29. Juli 2020 wies das Verwaltungsgericht das Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege infolge Aussichtslosigkeit der Beschwerde ab. Gleichzeitig setzte es diesem zur Bezahlung eines Kostenvorschusses von Fr. 1'000.-- eine Frist von 20 Tagen ab Rechtskraft seines Entscheids an, dies mit der Androhung, dass ansonsten auf die Beschwerde nicht eingetreten werde.
Der Beschwerdeführer gelangt dagegen mit Beschwerde an das Bundesgericht.
Das Verwaltungsgericht beantragt unter Hinweis auf seinen Entscheid die Abweisung der Beschwerde.
2.
Beim angefochtenen Entscheid handelt es sich um einen Zwischenentscheid, der das vorinstanzliche Verfahren nicht abschliesst. Gegen selbstständig eröffnete Zwischenentscheide ist die Beschwerde in Strafsachen an das Bundesgericht u.a. zulässig, wenn der Entscheid einen nicht wieder gutzumachenden Nachteil bewirken kann (<ref-law>). Der Beschwerdeführer hat - sofern das nicht offensichtlich ist - darzulegen, inwiefern ihm ein nicht wieder gutzumachender Nachteil im Sinne von <ref-law> drohen soll (<ref-ruling> E. 2.2 S. 801 mit Hinweisen).
Zwischenentscheide, mit denen zwecks Sicherstellung der mutmasslichen Gerichtskosten ein Kostenvorschuss verlangt wird, können nach der Rechtsprechung einen nicht wieder gutzumachenden Nachteil im Sinne von <ref-law> bewirken, wenn im Säumnisfall ein Nichteintretensentscheid droht (vgl. <ref-ruling> E. 2.3.1 S. 801 f. mit Hinweisen; vgl. auch <ref-ruling> E. 1.2 S. 403 mit Hinweis). Dies ist der Fall, wenn die vorschusspflichtige Partei finanziell nicht in der Lage ist, den verlangten Kostenvorschuss zu bezahlen, was sie zur Substanziierung der Eintretensvoraussetzungen in der Beschwerdebegründung aufzeigen muss (<ref-ruling> E. 2.3.2 ff. S. 805 ff. mit Hinweisen).
Diese Voraussetzungen sind vorliegend erfüllt. Der Beschwerdeführer stellte im vorinstanzlichen Verfahren ein Gesuch um unentgeltliche Rechtspflege, welches die Vorinstanz infolge Aussichtslosigkeit der Beschwerde abwies. Dagegen richtet sich die vorliegende Beschwerde. Damit macht der Beschwerdeführer zumindest sinngemäss geltend, er verfüge nicht über die erforderlichen Mittel für die Bezahlung des Kostenvorschusses von Fr. 1'000.--, auch wenn er sich vor Bundesgericht nicht im Detail zu seinen finanziellen Verhältnissen äussert.
3.
Der Beschwerdeführer rügt, er sei über das im angefochtenen Entscheid erwähnte Vernehmlassungsverfahren vom 14. und 20. Mai 2020 nicht orientiert worden, was einen Verstoss gegen seinen Anspruch auf rechtliches Gehör im Sinne von <ref-law> darstelle.
4.
Der Anspruch auf rechtliches Gehör umfasst insbesondere das Recht, von jeder dem Gericht eingereichten Stellungnahme Kenntnis zu nehmen und sich dazu äussern zu können (sog. Replikrecht). Die Wahrnehmung des Replikrechts setzt voraus, dass jede dem Gericht eingereichte Stellungnahme oder Vernehmlassung den Beteiligten zugestellt wird, so dass sie selbst entscheiden können, ob sie sich dazu äussern wollen oder nicht. Dies gilt unabhängig davon, ob in diesen Eingaben neue und erhebliche Gesichtspunkte enthalten sind oder nicht (zum Ganzen: <ref-ruling> E. 2.1 S. 118; <ref-ruling> E. 4.1.1 S. 52 f.; <ref-ruling> E. 2.1 S. 485 f.; <ref-ruling> E. 2.3.1 S. 197; je mit Hinweisen).
Der Anspruch auf rechtliches Gehör ist formeller Natur (<ref-ruling> E. 3.1 S. 304 mit Hinweisen). Eine Verletzung des Replikrechts führt ungeachtet der materiellen Begründetheit des Rechtsmittels zur Gutheissung der Beschwerde und zur Aufhebung des angefochtenen Entscheids (Urteil 1B_25/2020 vom 27. Mai 2020 E. 3.2).
5.
Der Beschwerdeführer macht geltend, er habe von der Stellungnahme des DJS vom 20. Mai 2020, auf welche die Vorinstanz im angefochtenen Entscheid Bezug nimmt, keine Kenntnis gehabt und sich dazu folglich nicht äussern können. Die Vorinstanz widerlegt dies in ihrer Stellungnahme vor Bundesgericht nicht. Damit ist von einer Verletzung des Replikrechts auszugehen. Der angefochtene Entscheid ist daher aufzuheben und die Angelegenheit zur Neubeurteilung unter Wahrung des rechtlichen Gehörs an die Vorinstanz zurückzuweisen. Damit erübrigt sich eine Behandlung der weiteren Rügen.
6.
Die Beschwerde ist gutzuheissen, soweit darauf einzutreten ist. Der Entscheid des Verwaltungsgerichts des Kantons Thurgau vom 29. Juli 2020 ist aufzuheben und die Sache zur neuen Beurteilung an die Vorinstanz zurückzuweisen. Es sind keine Gerichtskosten zu erheben (<ref-law>). Dem nicht anwaltlich vertretenen Beschwerdeführer ist keine Parteientschädigung zuzusprechen, da er keine besonderen Verhältnisse oder Auslagen geltend macht, die eine solche rechtfertigen könnten (vgl. <ref-ruling> E. 4b S. 207; <ref-ruling> E. 5b S. 519 f.). Dessen Gesuch um unentgeltliche Rechtspflege ist als gegenstandslos abzuschreiben.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen, soweit darauf einzutreten ist. Der Entscheid des Verwaltungsgerichts des Kantons Thurgau vom 29. Juli 2020 wird aufgehoben und die Sache zur neuen Beurteilung an die Vorinstanz zurückgewiesen.
2.
Es werden keine Kosten erhoben.
3.
Dieses Urteil wird den Parteien und dem Verwaltungsgericht des Kantons Thurgau schriftlich mitgeteilt.
Lausanne, 22. Oktober 2020
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Denys
Die Gerichtsschreiberin: Unseld