Das Bundesgericht zieht in Erwägung:
1. X._ verbüsst zurzeit in der Anstalt Saxerriet mehrere Freiheitsstrafen von insgesamt etwas über 12 Monaten Dauer. Zwei Drittel waren am 31. Januar 2011 verbüsst. Ein neues Verfahren ist erstinstanzlich erledigt und im Berufungsverfahren beim Kantonsgericht St. Gallen hängig.
X._ stellte am 5. November 2010 ein Gesuch um bedingte Entlassung. Am 27. Januar 2011 wies das Sicherheits- und Justizdepartement des Kantons St. Gallen das Gesuch ab. Eine dagegen gerichtete Beschwerde wurde durch die Anklagekammer des Kantons St. Gallen am 1. März 2011 abgewiesen.
X._ wendet sich mit Beschwerde ans Bundesgericht und beantragt, die Entscheide vom 27. Januar 2011 und 1. März 2011 seien nichtig zu erklären. Seinem Gesuch um vorzeitige Entlassung aus dem Strafvollzug sei stattzugeben.
2. In Anwendung von Art. 109 Abs. 3 BGG kann auf die Ausführungen der Vorinstanz verwiesen werden (vgl. angefochtenen Entscheid S. 3-8 E. 2).
Die Vorinstanz hat sich zur angeblichen Verschleppung des Verfahrens und zur angeblich mangelhaften Qualität der Beurteilung geäussert (E. 2.2). Der Beschwerdeführer behauptet auch vor Bundesgericht, es seien längere Zeit "vorsätzlich" keine Schritte unternommen worden, um eine "kompetente Abklärung bis zum Stichtag" zu ermöglichen, und es sei den kantonalen Behörden "der Vorhalt zu machen, dass eine rechtlich wichtige Angelegenheit durch fahrlässiges und achtloses Verhalten seiner rechtlichen Relevanz beraubt" worden sei (Beschwerde S. 3 lit. A und B). Da der Beschwerdeführer diese Vorwürfe nicht glaubhaft zu machen, geschweige denn zu belegen vermag, ist in diesem Punkt auf die Beschwerde nicht einzutreten.
Im Übrigen verneint die Vorinstanz mit überzeugender Begründung die für eine bedingte Entlassung erforderliche günstige Prognose (E. 2.4 mit Hinweis auf E. 2.1). Was der Beschwerdeführer vorbringt, dringt nicht durch. Insbesondere durfte die Vorinstanz entgegen seiner Auffassung (Beschwerde S. 3 lit. C) angesichts des Umstands, dass er sich schon früher im Strafvollzug wohlverhalten hatte und trotzdem rückfällig geworden war, darauf schliessen, dass er sich einfach nur anpasst. Anpassung allein lässt aber nicht auf eine günstige Prognose schliessen. Ebenfalls nicht für Einsicht in das begangene Unrecht spricht, dass der Beschwerdeführer ein längst rechtskräftiges Strafurteil von 1987 immer noch als "Unrecht" bezeichnet und geltend macht, sein späteres kriminelles Verhalten sei Folge seines damaligen schwierigen sozialen Umfelds und der fehlenden Unterstützung seitens dafür zuständiger Stellen (angefochtener Entscheid S. 4). Dass die Sache aus dem Jahr 1987 verjährt ist (Beschwerde S. 4 lit. E), hat mit der Frage der Prognose nichts zu tun. Ob die Vorinstanz das neue und noch nicht rechtskräftig erledigte Verfahren zu Recht in die Erwägungen einbezog (Beschwerde S. 4 lit. F), kann letztlich offenbleiben. Bereits aus den übrigen Umständen durfte sie ohne Verletzung des Rechts im Sinne von Art. 95 BGG auf eine ungünstige Prognose schliessen.
Die Beschwerde ist im Verfahren nach Art. 109 BGG abzuweisen, soweit darauf einzutreten ist. Mit dem Entscheid in der Sache ist das Gesuch um Haftentlassung gegenstandslos.
3. Die Gerichtskosten sind dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 800.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und der Anklagekammer des Kantons St. Gallen schriftlich mitgeteilt.
Lausanne, 10. Mai 2011
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Mathys C. Monn