Das Bundesgericht zieht in Erwägung:
1. X._ befindet sich in der Strafanstalt Pöschwies im vorzeitigen Strafvollzug. Am 31. Dezember 2010 wurde er mit Zelleneinschluss und TV-Entzug für jeweils fünf Arbeitstage diszipliniert, da er sich am 30. Dezember 2010 trotz Aufforderung des Werkmeisters geweigert hatte, die ihm zugeteilte Arbeit wieder aufzunehmen. Wegen erneuter Arbeitsverweigerung am 14. Januar 2011 wurden ein Zelleneinschluss und TV-Entzug für jeweils zehn Arbeitstage angeordnet. Weiter wurde für dieselbe Zeitspanne das Kiosk-Einkaufsgeld auf zehn Franken pro Woche und der Taxkarteneinkauf auf fünf Franken pro Woche beschränkt. Gegen die beiden Verfügungen gerichtete Rechtsmittel wurden durch die Direktion der Justiz und des Innern des Kantons Zürich am 11. März 2011 und durch das Verwaltungsgericht des Kantons Zürich mit Urteil vom 17. Mai 2011 abgewiesen, soweit darauf eingetreten wurde.
X._ wendet sich mit Beschwerde ans Bundesgericht und beantragt, das Urteil vom 17. Mai 2011 sei aufzuheben.
2. Soweit der Beschwerdeführer auf seine Eingaben im kantonalen Verfahren verweist, ist darauf nicht einzutreten. In der Beschwerde ist anzugeben, inwieweit der angefochtene Entscheid gegen das Recht verstossen soll (Art. 42 Abs. 2 BGG). Eingaben aus dem kantonalen Verfahren erfüllen diese Voraussetzung von vornherein nicht, da sie sich nicht auf den angefochtenen Entscheid beziehen können.
3. In Anwendung von Art. 109 Abs. 3 BGG kann auf die Ausführungen der Vorinstanz verwiesen werden (vgl. angefochtenen Entscheid S. 4 - 7 E. 2 - 3).
Der Beschwerdeführer hatte vor der Vorinstanz geltend gemacht und bringt dies auch vor Bundesgericht vor, er sei der Arbeitspflicht wegen seiner gesundheitlichen Probleme nicht nachgekommen (vgl. Beschwerde S. 2 - 4 Ziff. 4 und 5). Nach den Feststellungen der Vorinstanz war er indessen aufgrund eines Arztzeugnisses lediglich bis zum 29. Dezember 2010 krankgeschrieben, weshalb er am 30. Dezember 2010 und am 14. Januar 2011 die Arbeit wieder hätte aufnehmen können (angefochtener Entscheid S. 6). Der Beschwerdeführer bestreitet, dass er an den fraglichen beiden Tagen hätte arbeiten können. Er bringt insbesondere vor, beim Arzt handle es sich um einen Angestellten der Strafanstalt, der keine Ahnung habe und der die Interessen der Strafanstalt in den Vordergrund stelle. Die Vorinstanz hat indessen festgestellt, dass für ein Fehlverhalten des Arztes keine Anzeichen bestünden (angefochtener Entscheid S. 5). Auch der Beschwerdeführer ist nicht in der Lage, solche Anzeichen zu nennen. Dass der Arzt für die Strafanstalt tätig ist, bedeutet denn auch nicht, dass er nicht willens und fähig gewesen wäre, den Zustand des Beschwerdeführers unvoreingenommen zu beurteilen.
Der Beschwerdeführer macht geltend, die Disziplinarstrafen seien unverhältnismässig (Beschwerde S. 4 Ziff. 6). Er legt indessen nicht dar, und es ist auch nicht ersichtlich, inwieweit sich die Sanktionen nicht mehr innerhalb des den kantonalen Behörden zustehenden weiten Ermessens bewegen könnten.
Die Beschwerde ist im Verfahren nach Art. 109 BGG abzuweisen, soweit darauf einzutreten ist.
4. Die Gerichtskosten sind dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG). Das Gesuch um unentgeltliche Rechtspflege ist in Anwendung von Art. 64 BGG abzuweisen, weil die Rechtsbegehren aussichtslos erschienen. Der finanziellen Lage des Beschwerdeführers ist bei der Bemessung der Gerichtsgebühr Rechnung zu tragen (Art. 65 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 500.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien und dem Verwaltungsgericht des Kantons Zürich, 3. Abteilung, schriftlich mitgeteilt.
Lausanne, 27. Juni 2011
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Mathys C. Monn