Der Einzelrichter zieht in Erwägung:
1. Der Beschwerdeführer befindet sich in der Anstalt Gmünden im Strafvollzug. Am 18. Februar 2011 ersuchte er das Amt für Justizvollzug um einen Sachurlaub für den 3. März 2011, um die Dokumente für seine Heirat beim serbischen Konsulat in Zürich und bei der Stadt St. Gallen zu beschaffen. Am 28. Februar 2011 ersuchte er um die unentgeltliche Rechtsverbeiständung. Am 12. April 2011 wies das Sicherheits- und Justizdepartement des Kantons St. Gallen das Gesuch um Gewährung der unentgeltlichen Rechtspflege ab, da es aussichtslos sei. Am 21. April 2011 erhob der Beschwerdeführer beim Präsidenten des Verwaltungsgerichts des Kantons St. Gallen gegen die Verfügung vom 12. April 2011 Beschwerde. Er machte unter anderem geltend, es sei ihm nicht möglich, im Rahmen der ihm gewährten Vollzugsöffnungen die notwendigen Dokumente für die Heirat beizubringen. Dies setze einen Sachurlaub unter der Woche und nicht an Wochenenden voraus, da die Behörden an Wochenenden nicht arbeiten würden und er nur am Wochenende Urlaub erhalte. Die Strafanstalt Gmünden teilte in ihrer Stellungnahme zur Beschwerde mit, dem Beschwerdeführer sei erklärt worden, er könne seinen monatlichen Zwölf-Stunden-Urlaub oder den monatlichen Fünf-Stunden-Ausgang unter der Woche beziehen, um die Dokumente auf den Ämtern zu holen. Das Verwaltungsgericht wies die Beschwerde mit Entscheid vom 23. Mai 2011 ab. Das Gericht stellt fest, die Anstaltsleitung ermögliche dem Beschwerdeführer, die für ihn wichtigen Dokumente an einem Werktag im Rahmen eines ihm grundsätzlich zugestandenen Urlaubs zu beschaffen. Da ihm die Möglichkeit zur Durchführung des beabsichtigten Behördenganges in einem zumutbaren Rahmen geboten worden sei, habe das Sicherheits- und Justizdepartement das Gesuch um zusätzlichen Sachurlaub zu Recht als offensichtlich unbegründet qualifiziert. Folglich sei die Beschwerde gegen die Verweigerung der unentgeltlichen Rechtspflege im Gesuchsverfahren um zusätzlichen Urlaub abzuweisen.
Dagegen wendet sich der Beschwerdeführer ans Bundesgericht. Die Umstände, dass er auf eine Begründung des Strafurteils seinerzeit verzichtet und ihm dafür angeblich die "normale Vollzugsregelung" versprochen worden sein soll, haben indessen mit der im angefochtenen Entscheid behandelten Frage nichts zu tun. Soweit er geltend macht, andere Insassen hätten wegen weniger wichtiger Dinge einen Sachurlaub erhalten, führt er diesen Vorwurf nicht in einer Weise aus, die es dem Bundesgericht erlaubte, die Stichhaltigkeit des Vorbringens zu prüfen. Inwieweit der angefochtene Entscheid gegen das Recht im Sinne von <ref-law> verstossen könnte, ergibt sich aus der Beschwerde, die den Anforderungen von Art. 42 Abs. 2 bzw. <ref-law> nicht genügt, nicht. Darauf ist im Verfahren nach <ref-law> nicht einzutreten.
2. Die Gerichtskosten sind dem Beschwerdeführer aufzuerlegen (<ref-law>). Seiner finanziellen Lage ist bei der Bemessung der Gerichtsgebühr Rechnung zu tragen (<ref-law>).

Demnach erkennt der Einzelrichter:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 500.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Verwaltungsgericht des Kantons St. Gallen schriftlich mitgeteilt.
Lausanne, 21. Juni 2011
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Einzelrichter: Der Gerichtsschreiber:
Schneider C. Monn