Erwägungen:
1.
Mit Verfügung vom 4. Dezember 2020 trat das Verwaltungsgericht des Kantons Zürich auf eine Beschwerde von A._ zufolge verspäteter bzw. formungültiger Beschwerdeerhebung nicht ein und auferlegte diesem Gerichtskosten im Gesamtbetrag von Fr. 570.-- (Verfahren VB.2020.00821). Das Bundesgericht trat auf eine dagegen erhobene Beschwerde mit Urteil 1C_71/2021 vom 4. Februar 2021 nicht ein.
Mit Eingabe vom 27. Juli 2021 ersuchte A._ um Erlass der ihm im Verfahren VB.2020.00821 auferlegten Gerichtskosten. Die Generalsekretärin des Verwaltungsgerichts wies das Gesuch mit Verfügung vom 2. August 2021 ab. Auf den dagegen erhobenen Rekurs trat die Verwaltungskommission des Verwaltungsgerichts infolge verspäteter Einreichung mit Urteil vom 2. November 2021 nicht ein und wies das Gesuch um unentgeltliche Rechtspflege ab, soweit es nicht gegenstandslos geworden war.
Gegen dieses Urteil gelangt A._ mit einer als "Beschwerde" bezeichneten elektronischen Eingabe vom 12. Januar 2022 an das Bundesgericht.
2.
2.1. Gemäss Art. 83 lit. m Teilsatz 1 BGG ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten über die Stundung oder Erlass von Abgaben unzulässig. Dazu gehört auch der Erlass von Gerichtskosten (vgl. Urteile 2D_31/2021 vom 4. August 2021 E. 2 mit Hinweis; 2C_382/2019 vom 29. April 2019 E. 2). Damit steht als bundesrechtliches Rechtsmittel einzig die subsidiäre Verfassungsbeschwerde (Art. 113 ff. BGG) zur Verfügung.
2.2. Mit der Verfassungsbeschwerde kann gemäss Art. 116 BGG ausschliesslich die Verletzung von verfassungsmässigen Rechten gerügt werden. Verfassungsrügen müssen gemäss dem strengen Rügeprinzip von Art. 117 i.V.m. Art. 106 Abs. 2 BGG in der Beschwerde präzise vorgebracht und begründet werden. Dies bedeutet, dass anhand der Erwägungen des angefochtenen Entscheids klar und detailliert darzulegen ist, inwiefern verfassungsmässige Rechte verletzt worden sein sollen (BGE 142 III 364 E. 2.4 mit Hinweisen; 133 II 396 E. 3.2).
Vorliegend werden entsprechende Rügen nicht erhoben und substanziiert. Es fehlt namentlich jegliche Auseinandersetzung mit den Erwägungen des angefochtenen Entscheids, erst recht unter verfassungsrechtlichen Aspekten.
3.
Die Beschwerde enthält offensichtlich keine hinreichende Begründung. Es ist darauf mit Entscheid der Abteilungspräsidenten als Einzelrichterin im vereinfachten Verfahren nach Art. 108 Abs. 1 lit. b BGG nicht einzutreten.
Es rechtfertigt sich, auf die Erhebung von Gerichtskosten zu verzichten (Art. 66 Abs. 1 BGG). Ob der Beschwerdeführer auch für das bundesgerichtliche Verfahren ein Gesuch um unentgeltliche Rechtspflege stellen will, ist unklar. Bei diesem Verfahrensausgang wäre ein solches Gesuch ohnehin gegenstandslos geworden. Es sind keine Entschädigungen geschuldet (Art. 68 BGG).
Demnach erkennt die Präsidentin:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Es werden keine Gerichtskosten erhoben.
3.
Dieses Urteil wird den Verfahrensbeteiligten und dem Verwaltungsgericht des Kantons Zürich, Verwaltungskommission, mitgeteilt.
Lausanne, 14. Januar 2022
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: F. Aubry Girardin
Die Gerichtsschreiberin: D. Ivanov