Das Bundesgericht zieht in Erwägung:
1. Die Behörden des Kantons Zürich auferlegten dem Beschwerdeführer in den Jahren 2008 und 2009 wegen strassenverkehrsrechtlicher Übertretungen 18 Bussen in der Höhe von insgesamt Fr. 4'430.-- bzw. Ersatzfreiheitsstrafen von 50 Tagen.
Nachdem der Beschwerdeführer trotz Mahnung nichts bezahlt hatte, verfügte das Amt für Justizvollzug des Kantons Zürich am 12. November 2010 auf Antrag der Instanzen, die die Bussen verhängt hatten, den Antritt der Ersatzfreiheitsstrafen auf den 10. Januar 2011. Dagegen erhob der Beschwerdeführer Rekurs bei der Direktion der Justiz und des Innern des Kantons Zürich. Die Direktion wies das Rechtsmittel am 1. Februar 2011 ab, soweit sie darauf eintrat. Sie lud den Beschwerdeführer neu auf den 21. März 2011 in den Strafvollzug vor. Dagegen erhob der Beschwerdeführer kantonale Beschwerde beim Verwaltungsgericht des Kantons Zürich. Das Gericht hob mit Urteil vom 15. März 2011 in teilweiser Gutheissung des Rechtsmittels die Verfügungen vom 12. November 2010 und 1. Februar 2011 insoweit auf, als sie eine Ersatzfreiheitsstrafe von zwei Tagen betrafen (vgl. dazu angefochtenes Urteil S. 7/8 E. 5.3.3). Im Übrigen wurden die Beschwerde abgewiesen und der Beschwerdeführer neu auf den 1. April 2011 in den Strafvollzug vorgeladen.
Der Beschwerdeführer wendet sich mit zwei fristgerechten Eingaben vom 26. März und 2. Mai 2011 (act. 1 und act. 11) ans Bundesgericht und beantragt unter anderem eine Aufhebung des Urteils des Verwaltungsgerichts vom 15. März 2011.
Mit Verfügung vom 7. April 2011 wies das Bundesgericht ein in der Eingabe vom 26. März 2011 gestelltes Gesuch um aufschiebende Wirkung ab.
2. In Anwendung von Art. 109 Abs. 3 BGG kann auf die Ausführungen der Vorinstanz verwiesen werden (vgl. angefochtenen Entscheid S. 4-10 E. 2-7). Soweit der Beschwerdeführer auf Eingaben im kantonalen Verfahren verweist (z.B. act. 11 S. 8), ist darauf nicht einzutreten, weil sich der Betroffene gemäss Art. 42 Abs. 2 BGG mit dem angefochtenen Entscheid auseinandersetzen und die Begründung einer Beschwerde ans Bundesgericht deshalb naturgemäss in derselben enthalten sein muss. Ebenfalls nicht einzutreten ist auf seine Eingaben, soweit sie sich nicht konkret mit dem angefochtenen Entscheid befassen oder unter dem Titel "Subsidiäre Verfassungsbeschwerde" (act. 11 S. 12) den Begründungsanforderungen von Art. 106 Abs. 2 BGG nicht genügen. Was der Beschwerdeführer vor Bundesgericht unter Hinweis auf den angefochtenen Entscheid vorbringt, dringt im Übrigen nicht durch.
Der Beschwerdeführer bemängelt, dass die Vorinstanz ihn auf einen Zeitpunkt in den Vollzug vorlud, zu welchem die Frist zur Begründung der eidgenössischen Beschwerde in Strafsachen noch lief (act. 1 S. 4 und act. 11 S. 5/6). Da er trotz dieser Anordnung die Frist zur Beschwerde ausnützen konnte und auch ausgenützt hat, liegen keine Verletzung seines Anspruchs auf rechtliches Gehör und auch sonst keine Missachtung des Rechts im Sinne von Art. 95 BGG vor.
Die Frage der Verkürzung der kantonalen Rechtsmittelfrist (act. 1 S. 5 und act. 11 S. 6-8) betrifft das kantonale Recht. Von Bundesrechts wegen ist es nicht unzulässig, die Verkürzung einer kantonalen Rechtsmittelfrist vorzusehen, weil die Verjährung droht. Eine Verletzung des rechtlichen Gehörs liegt nicht vor.
Der Beschwerdeführer macht geltend, dass der Versuch, die Bussen einzutreiben, nicht aussichtslos gewesen wäre (act. 11 S. 8/9). Er vermag indessen nicht darzutun, dass die gegenteilige und auf seine eigene Behauptung, er sei mittellos, gestützte Schlussfolgerung der Vorinstanz, die Bussen seien auf dem Betreibungsweg uneinbringlich (angefochtener Entscheid S. 10 E. 6.5), offensichtlich unrichtig im Sinne von Art. 97 Abs. 1 BGG bzw. willkürlich im Sinne von Art. 9 BV wäre. Bezeichnenderweise macht er auch vor Bundesgericht geltend, er lebe erheblich unter dem Existenzminimum (act. 11 S. 10). Es ist somit offensichtlich, dass auf kostspielige Betreibungen verzichtet werden durfte.
An der Sache vorbei geht die Rüge, dass für eine geringfügige Übertretung keine 50 Tage Freiheitsstrafe verhängt werden dürften (act. 11 S. 10). Es geht nicht um eine, sondern um nicht weniger als 18 Bussen. Von Unverhältnismässigkeit kann nicht die Rede sein.
Schliesslich macht der Beschwerdeführer geltend, sein Gesundheitszustand sei in mehrerer Hinsicht ernsthaft angeschlagen (act. 11 S. 11). Zur Frage der Hafterstehungsfähigkeit führt die Vorinstanz indessen aus, die in diesem Zusammenhang vom Beschwerdeführer wegen eines Beinbruchs beigebrachten Arztzeugnisse genügten nicht (angefochtener Entscheid S. 10 E. 7). Auch vor Bundesgericht beschränkt sich der Beschwerdeführer auf reine Behauptungen, die nicht gehört werden können.
Ohne dass sich das Bundesgericht zu allen Vorbringen der weitschweifigen und mindestens teilweise trölerischen Beschwerde ausdrücklich äussern müsste, ist gesamthaft gesehen nicht ersichtlich, dass und inwieweit der angefochtene Entscheid gegen das Recht im Sinne von Art. 95 BGG verstossen könnte. Die Beschwerde ist im Verfahren nach Art. 109 BGG abzuweisen, soweit darauf einzutreten ist.
3. Die Gerichtskosten sind dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG). Das Gesuch um unentgeltliche Rechtspflege ist in Anwendung von Art. 64 BGG abzuweisen, weil die Rechtsbegehren aussichtslos erschienen.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 800.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien und dem Verwaltungsgericht des Kantons Zürich, 3. Abteilung, Einzelrichter, schriftlich mitgeteilt.
Lausanne, 10. Mai 2011
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Mathys C. Monn