Sachverhalt:
A. Die Staatsanwaltschaft des Kantons St. Gallen legt X._ in der Anklageschrift vom 10. Juni 2008 zur Last, er habe am 2. Juni 2004 und am 12. September 2006 zusammen mit einem weiteren Täter die Poststellen Jona-Kempraten bzw. Kappel am Albis überfallen. Aufgrund mehrerer Indizien ermittelte die Polizei X._ als Tatverdächtigen. Dieser bestreitet eine Beteiligung an den Überfällen.
B. Das Kantonsgericht St. Gallen verurteilte X._ am 16. Juni 2009 zweitinstanzlich wegen mehrfachen Raubes und mehrfachen Hausfriedensbruchs zu einer Freiheitsstrafe von vier Jahren. Die dagegen erhobene Beschwerde hiess das Bundesgericht am 6. Januar 2010 gut und wies die Sache zur Durchführung von Konfrontationseinvernahmen mit diversen Zeugen an die Vorinstanz zurück (Urteil 6B_781/2009 vom 6. Januar 2010). Am 16. März 2011 bestätigte das Kantonsgericht die Schuldsprüche vom 16. Juni 2009 und bestrafte X._ mit einer Freiheitsstrafe von dreidreiviertel Jahren. Es rechnete die Auslieferungs- bzw. Untersuchungshaft mit 900 Tagen und die Ersatzmassnahmen mit 86 Tagen an die Freiheitsstrafe an.
C. X._ erhebt Beschwerde in Strafsachen und subsidiäre Verfassungsbeschwerde. Er beantragt, das Urteil vom 16. März 2011 sei aufzuheben und die Sache zur Neubeurteilung an das Kantonsgericht zurückzuweisen, unter Kosten- und Entschädigungsfolgen zulasten der Staatskasse. Er ersucht um unentgeltliche Rechtspflege und Verbeiständung.

Erwägungen:
1. Mit Beschwerde in Strafsachen gemäss <ref-law> kann grundsätzlich jede Rechtsverletzung geltend gemacht werden, die bei der Anwendung von materiellem Strafrecht oder Strafprozessrecht begangen wird (<ref-ruling> E. 1.4.3 S. 41). Dies gilt auch für die Verletzung von Verfassungsrecht (<ref-law>). Die subsidiäre Verfassungsbeschwerde ist somit ausgeschlossen (<ref-law>; Urteil 6B_99/2007 vom 30. Mai 2007 E. 1 mit Hinweisen). Soweit der Beschwerdeführer dieses Rechtsmittel erhebt, ist die Eingabe als Beschwerde in Strafsachen entgegenzunehmen.
2. 2.1 Der Beschwerdeführer rügt, die Vorinstanz verletze sein Recht auf Verteidigung. Er sei am 30. Mai 2011 in Ausschaffungshaft versetzt und am 3. Juni 2011 ausgeschafft worden. Dies habe ihm die gehörige Instruktion seines Verteidigers vor Ablauf der Rechtsmittelfrist nahezu verunmöglicht.
2.2 Die Bundesverfassung garantiert das Recht der angeschuldigten Person, die ihr zustehenden Verteidigungsrechte geltend zu machen (<ref-law>). Wird die Verletzung von Grundrechten (einschliesslich der willkürlichen Anwendung von kantonalem Recht und Willkür bei der Sachverhaltsfeststellung) gerügt, gelten qualifizierte Anforderungen an die Begründung. Eine solche Rüge prüft das Bundesgericht nicht von Amtes wegen, sondern nur, wenn sie in der Beschwerde vorgebracht und substanziiert begründet worden ist. Das bedeutet, dass klar und detailliert anhand der Erwägungen des angefochtenen Entscheids darzulegen ist, inwiefern verfassungsmässige Rechte verletzt worden sein sollen (<ref-law>; <ref-ruling> E. 1.3.1 S. 68 mit Hinweisen).
2.3 Der Vertreter des Beschwerdeführers nahm den angefochtenen Entscheid am 3. Mai 2011 entgegen, weshalb die Rechtsmittelfrist bis am 3. Juni 2011 lief (Art. 44 Abs. 1, Art. 45 Abs. 1 und Art. 100 Abs. 1 BGG). Der Beschwerdeführer befand sich bis am letzten Tag der Frist in der Schweiz. Auch wenn er inhaftiert war, hatte er das Recht, mit seinem Rechtsvertreter mündlich und schriftlich zu verkehren (Art. 81 Abs. 1 AuG [SR 142.20]). Es ist aus den Akten nicht ersichtlich und wird vom Beschwerdeführer nicht dargetan, dass das Kommunikationsrecht verweigert wurde. Weshalb es unter diesen Umständen unmöglich gewesen sein soll, den Verteidiger innert der Rechtsmittelfrist ordnungsgemäss zu instruieren, legt der Beschwerdeführer nicht hinreichend dar. Seine Rüge erweist sich als unbegründet, soweit darauf einzutreten ist.
3. 3.1 Der Beschwerdeführer macht geltend, die Vorinstanz verkenne die Bindungswirkung des Rückweisungsentscheids. Durch die Ablehnung diverser Beweisanträge verletze sie seinen Anspruch auf rechtliches Gehör und seine Verteidigungsrechte (Beschwerde S. 19 ff.).
3.2 Im Falle eines bundesgerichtlichen Rückweisungsentscheids hat die mit der Neubeurteilung befasste kantonale Instanz die rechtliche Beurteilung, mit der die Zurückweisung begründet wird, ihrer Entscheidung zugrunde zu legen. Diese Beurteilung bindet auch das Bundesgericht, falls ihm die Sache erneut unterbreitet wird. Aufgrund der Bindungswirkung ist es den nochmals mit der Sache befassten Gerichten wie den Parteien verwehrt, der Überprüfung einen anderen als den bisherigen Sachverhalt zu unterstellen oder die Sache unter rechtlichen Gesichtspunkten zu prüfen, die im Rückweisungsentscheid ausdrücklich abgelehnt oder überhaupt nicht in Erwägung gezogen worden sind (<ref-ruling> E. 2 und E. 2.1 S. 335 f. mit Hinweisen).
3.3 Soweit der Beschwerdeführer die Frage der Bindungswirkung des Rückweisungsentscheids als abstrakte Rechtsfrage rügt, ohne auf das angefochtene Urteil einzugehen (vgl. Beschwerde S. 19 ff.), ist auf seine Beschwerde nicht einzutreten. Es fehlt ihm diesbezüglich an einem rechtlich geschützten Interesse (<ref-law> e contrario; vgl. zur Praxis unter Art. 84 aOG <ref-ruling> E. 2 S. 488).
3.4 Das Bundesgericht verpflichtete die Vorinstanz im Rückweisungsentscheid, Konfrontationseinvernahmen mit den Zeugen A._, B._, C._, D._, E._, dem Vermieter (F._), dem Vater (G._), dem Stiefbruder (H._), der früheren Ehefrau (I._), dem Cousin (J._) und dem Onkel des Beschwerdeführers (K._) durchzuführen (Urteil 6B_781/2009 vom 6. Januar 2010 E. 1.1 und E. 1.2). Hingegen lehnte es eine Befragung von L._ und M._ sowie ein weiteres Gutachten zu den DNA-Spuren ab (a.a.O. E. 2.1 S. 4 f. und E. 2.3 S. 6 f.).
3.5 Entgegen der Auffassung des Beschwerdeführers (Beschwerde S. 27 f.) durfte die Vorinstanz in ihrem Entscheid auf die früher abgelehnten Beweisanträge um Befragung von L._ und M._ und die Erstellung eines Gutachtens zu den DNA-Spuren nicht zurückkommen.
3.6 Der Beschwerdeführer verlangt, die Akten des Verfahrens gegen N._ seien beizuziehen (Beschwerde S. 23 f.). N._, O._ und P._ seien zu befragen (Beschwerde S. 23 und S. 26).
Der Beschwerdeführer listete im ersten Verfahren vor Bundesgericht seine vor Vorinstanz gestellten Beweisanträge in der Beschwerdeschrift auf. Darunter befinden sich auch die Anträge auf Befragung von O._ und den Beizug der Akten gegen N._. Gegen diese im kantonalen Verfahren abgewiesenen Beweisanträge erhob der Beschwerdeführer vor Bundesgericht jedoch keine Rügen (vgl. Beschwerde an das Bundesgericht im ersten Verfahren S. 7 ff.). In der vorliegenden Beschwerde legt er nicht dar, weshalb er die Ablehnung der Beweisanträge nicht schon im ersten Verfahren vor Bundesgericht beanstandet hatte.
Ebenso fehlt eine Begründung für den Umstand, weshalb er die Befragung von P._ erstmals im zweiten vorinstanzlichen Verfahren beantragte. Insbesondere behauptet er nicht, diesen Antrag erst aufgrund der im Rückweisungsverfahren erhobenen Beweise gestellt zu haben. Rügen, die der Beschwerdeführer bereits gegen das erste kantonale Urteil hätte erheben können und deren Geltendmachung ihm nach Treu und Glauben zumutbar war, darf er gegen das zweite kantonale Urteil nicht mehr vorbringen (<ref-ruling> E. 4a S. 104 mit Hinweisen). Darauf ist nicht einzutreten. Jedenfalls änderte sich nichts am Beweisergebnis, selbst wenn die Zeugen P._ und O._, wie der Beschwerdeführer darlegt, aussagen würden, sie hätten ihn im Tatzeitraum nicht getroffen. Denn daraus lässt sich in Bezug auf seine Anwesenheit in der Schweiz nichts ableiten.
Im Übrigen substanziiert der Beschwerdeführer nicht näher, welche neuen Erkenntnisse er aus der wiederholten Einvernahme des Tatbeteiligten N._, dieses Mal in der Eigenschaft als Zeuge, erwartet. Da die Vorinstanz das Verfahren nicht vollständig neu durchführen muss, sondern sich auf den Gegenstand der Rückweisung beschränken kann, verletzt die Abweisung des Beweisantrages kein Bundesrecht (vgl. <ref-ruling> E. 2 und E. 2.1 S. 335 f. mit Hinweisen).
4. 4.1 Der Beschwerdeführer rügt, die Vorinstanz habe Nachforschungen zur Person "Q._" im Restaurant "R._" unter Verletzung seiner Verteidigungsrechte abgelehnt. Die Zeugenbefragungen der Eheleute F._ und J._s hätten Hinweise darauf ergeben, dass vor dem Einzug seines Nachmieters eine Drittperson die Wohnung benutzt habe. Dies betreffe den Zeitraum, in welchem sich der Raub auf die Poststelle Jona-Kempraten ereignet habe. Es sei deshalb unerlässlich, bei den Eigentümern, den Betreibern und den "Benutzern" des Restaurants nach "Q._" zu forschen. Nicht ausgeschlossen sei zudem, dass sich der Nachmieter an "Q._" erinnere.
4.2 Nach den vorinstanzlichen Erwägungen ist dem Vermieterehepaar F._, dem Vater, dem Stiefbruder und dem Cousin des Beschwerdeführers kein "Q._" bekannt (angefochtenes Urteil S. 15). Der Beschwerdeführer legt nicht dar, dass und weshalb die Vorinstanz diese Aussagen willkürlich gewürdigt hätte. Soweit er in Widerspruch zum angefochtenen Urteil davon ausgeht, die Aussagen enthielten Hinweise auf eine Drittperson, ist auf seine Rüge nicht einzutreten (<ref-law>; vgl. E. 2.2). Gestützt auf dieses Beweisergebnis durfte die Vorinstanz in antizipierter Beweiswürdigung auf die Befragung weiterer Zeugen, so etwa des Nachmieters S._ oder Personen aus dem Lokal "R._" verzichten (vgl. zur antizipierten Beweiswürdigung <ref-ruling> E. 3.2 S. 272, 136 I 229 E. 5.3 S. 236 f.; je mit Hinweisen).
5. 5.1 Der Beschwerdeführer erachtet die vorinstanzliche Würdigung der Aussagen der Zeuginnen A._ und B._ als willkürlich. Die Zeugin A._ habe entgegen der Auffassung der Vorinstanz ihre früheren Aussagen zu den Kleidungsstücken der Täter nicht bestätigt. Sie habe ausgeführt, sie könne nicht mehr mit hundertprozentiger Sicherheit sagen, ob es sich bei den auf Fotos vorgezeigten Textilien um die Kleidung des Täters handle. Die Kleider entsprächen mehr oder weniger denjenigen des Täters. Das Grau sei aber nicht so hell, wie sie es beschrieben habe. Die Zeugin B._ habe sich anlässlich der Konfrontationseinvernahme nicht mehr an die Kleider erinnern können. Es sei willkürlich, gestützt auf ihre früheren Aussagen eine Identifikation der Kleider anzunehmen.
5.2 Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf eine Rechtsverletzung im Sinne von Artikel 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1, Art. 105 Abs. 2 BGG). Willkürlich ist ein Entscheid nicht schon, wenn eine andere Lösung ebenfalls vertretbar erscheint oder gar vorzuziehen wäre, sondern erst, wenn er offensichtlich unhaltbar ist, zur tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft. Willkür liegt nur vor, wenn nicht bloss die Begründung eines Entscheides, sondern auch das Ergebnis unhaltbar ist (<ref-ruling> E. 4.2 S. 560 mit Hinweisen).
5.3 Die Vorinstanz gelangt aufgrund einer umfassenden Beweiswürdigung der Aussagen des Beschwerdeführers und der Zeugen/innen A._, B._, C._, D._, E._, T._, U._, F._, G._, J._, H._ sowie des Spurenbildes zum Schluss, der Beschwerdeführer sei der Täter. Sie stellt nicht alleine auf die Zeuginnen A._ und B._, sondern auch auf weitere Zeugen ab (angefochtenes Urteil S. 9 ff.). Die Einwände des Beschwerdeführers gegen die Würdigung der Aussagen der beiden Zeuginnen vermögen das Beweisergebnis als solches nicht umzustossen. Die Vorinstanz durfte ohne Willkür für gewisse Details auf die tatnäheren Zeugenaussagen abstellen, weil seit den Überfällen lange Zeit vergangen war und die Aussagen nicht grundsätzlich anders ausfielen.
Die Zeugin A._ konnte anlässlich der Konfrontationseinvernahme (act. Z/50g) die Kleider des einen Täters identifizieren. Auch wenn sie das Grau der zweiten Kleidergarnitur heller in Erinnerung hatte, durfte die Vorinstanz aus ihren Aussagen und den Angaben der weiteren Tatzeugen schliessen, dabei handle es sich um die Sachen des zweiten Täters. Denn diese wurden am selben Ort gefunden, und die Zeugin war grundsätzlich in der Lage, den Farbton zu beschreiben.
Nicht zutreffend ist die vom Beschwerdeführer vertretene Ansicht, die Zeugin B._ hätte sich gar nicht mehr an die Garderobe der Täter bzw. weitere Details erinnert. Jedenfalls war sie in der Lage, über die Farbe und die Art der Kleidungsstücke (Mütze mit Sehschlitzen aber ohne Loch beim Mund, Handschuhe), den Dialekt der Täter (Deutsch mit jugoslawischem Akzent) und deren Statur Auskunft zu geben (act. Z/50h). Ihre Angaben stehen in Einklang mit den in der Nähe des Fluchtfahrzeugs aufgefundenen Kleidungsstücken. Zudem ergänzten weitere Zeugen die Täterbeschreibung. Aufgrund dieser Beobachtungen konnte die Tatkleidung, darunter eine auffällige grüne Mütze mit bunten Streifen, eindeutig identifiziert werden (vgl. angefochtenes Urteil S. 10 ff.). Die Rügen erweisen sich als unbegründet.
6. 6.1 Der Beschwerdeführer rügt, die vorinstanzliche Strafzumessung verletze in verschiedener Hinsicht Bundesrecht.
6.2 Die Vorinstanz setzt im angefochtenen Entscheid eine "Einsatzstrafe" von dreieinviertel Jahren für die beiden Raubdelikte anhand der objektiven und subjektiven Tatkomponenten fest. Die Mehrheit der Straftaten, die verschiedenen einschlägigen Freiheitsstrafen und den bisherigen Strafvollzug berücksichtigt sie im Umfang von einem Jahr als straferhöhend. Sie gelangt auf ein Strafmass von viereinviertel Jahren. Die Verzögerungen aufgrund "mehrerer Rechtsmittelverfahren", welche der Beschwerdeführer nicht zu verantworten hat, wertet sie zusammen mit der langen Zeit seit der Tat (<ref-law>) im Umfang von sechs Monaten als strafreduzierend. Insgesamt spricht sie eine Freiheitsstrafe von dreidreiviertel Jahren aus (angefochtenes Urteil S. 19).
Gegenüber ihrem ersten Urteil vom 16. Juni 2009 stellt dies insoweit eine Abweichung dar, als sie dort das Beschleunigungsgebot weder hinsichtlich der einzelnen Verfahrensabschnitte noch in Bezug auf die Gesamtdauer als verletzt erachtete. Sie senkte damals die Strafe bloss wegen des langen Zeitablaufs nach <ref-law> um drei Monate auf insgesamt vier Jahre (vgl. Urteil vom 16. Juni 2009 S. 17).
6.3 Es liegt im Ermessen des Sachgerichts, in welchem Umfang es die verschiedenen Strafzumessungsfaktoren berücksichtigt. Das Bundesgericht greift auf Beschwerde hin nur in die Strafzumessung ein, wenn die Vorinstanz den gesetzlichen Strafrahmen über- oder unterschritten hat, wenn sie von rechtlich nicht massgebenden Kriterien ausgegangen ist oder wesentliche Gesichtspunkte ausser Acht gelassen bzw. in Überschreitung oder Missbrauch ihres Ermessens falsch gewichtet hat (<ref-ruling> E. 5.3.1 S. 134 f. mit Hinweisen).
Im Verfahren vor dem Bundesgericht gilt das Verbot der reformatio in peius (vgl. <ref-law>; <ref-ruling> Ziff. 2 S. 55). Im Falle einer Rückweisung bindet das bundesrechtliche Verschlechterungsverbot auch die kantonalen Behörden. Das Bundesgericht prüft frei, ob das Verschlechterungsverbot verletzt ist (Urteil 6B_165/2011 vom 19. Juli 2011 E. 3.1 mit Hinweisen). Eine unzulässige reformatio in peius liegt vor, wenn die neue Sanktion bei objektiver Betrachtung schwerer wiegt als die im früheren Entscheid ausgefällte (a.a.O. E. 3.2).
6.4 Entgegen der in der Beschwerde vertretenen Auffassung (Beschwerde S. 30 f.) erhöht die Vorinstanz das Strafmass gegenüber ihrem ersten Urteil weder bei der Festsetzung der "Einsatzstrafe" noch bei den weiteren Strafzumessungsschritten. Insbesondere wertet sie die lange Zeitdauer seit den Taten in Anwendung von <ref-law> nach wie vor als strafmindernd. Dass sie die Höhe dieser Strafreduktion neu zusammen mit der Verletzung des Beschleunigungsgebots auf insgesamt sechs Monate beziffert, verstösst nicht gegen das Verschlechterungsverbot. Insgesamt setzt sie die Strafe in grösserem Mass herab als in ihrem ersten Entscheid, in welchem sie die Strafe gestützt auf <ref-law> um lediglich drei Monate senkte.
6.4 Entgegen der in der Beschwerde vertretenen Auffassung (Beschwerde S. 30 f.) erhöht die Vorinstanz das Strafmass gegenüber ihrem ersten Urteil weder bei der Festsetzung der "Einsatzstrafe" noch bei den weiteren Strafzumessungsschritten. Insbesondere wertet sie die lange Zeitdauer seit den Taten in Anwendung von <ref-law> nach wie vor als strafmindernd. Dass sie die Höhe dieser Strafreduktion neu zusammen mit der Verletzung des Beschleunigungsgebots auf insgesamt sechs Monate beziffert, verstösst nicht gegen das Verschlechterungsverbot. Insgesamt setzt sie die Strafe in grösserem Mass herab als in ihrem ersten Entscheid, in welchem sie die Strafe gestützt auf <ref-law> um lediglich drei Monate senkte.
6.5 6.5.1 Der Beschwerdeführer macht geltend, die Vorinstanz reduziere die Strafe wegen Verletzung des Beschleunigungsgebots um lediglich drei Monate. Das erste Urteil der Vorinstanz datiere vom 16. Juni 2009, das zweite vom 16. März 2011. Während des Verfahrens habe er sich in Untersuchungshaft befunden. Die Haftbedingungen seien gegenüber dem ordentlichen Strafvollzug verschärft. Die Vorinstanz hätte eine Strafreduktion um mindestens eineinhalb Jahre vornehmen müssen.
6.5.2 Das Beschleunigungsgebot verpflichtet die Behörde, das Strafverfahren zügig voranzutreiben, um die beschuldigte Person nicht unnötig über die gegen sie erhobenen Vorwürfe im Ungewissen zu lassen (<ref-law>, Art. 6 Ziff. 1 EMRK und Art. 14 Ziff. 3 lit. c UNO-Pakt II). Es gilt für das ganze Verfahren. Welche Verfahrensdauer angemessen ist, hängt von den konkreten Umständen ab, die in ihrer Gesamtheit zu würdigen sind. Kriterien hierfür bilden etwa die Schwere des Tatvorwurfs, die Komplexität des Sachverhaltes, die dadurch gebotenen Untersuchungshandlungen, das Verhalten des Beschuldigten und dasjenige der Behörden sowie die Zumutbarkeit für den Beschuldigten (<ref-ruling> E. 3.3.3 S. 54 ff.; <ref-ruling> E. 3.1 S. 273; je mit Hinweisen).
6.5.3 Das Bundesgericht schützte im ersten Verfahren die vorinstanzliche Würdigung hinsichtlich des Beschleunigungsgebotes (Urteil 6B_781/2009 vom 6. Januar 2010 E. 4.4.2; vgl. E. 6.2). An diese Beurteilung sind die beteiligten Instanzen gebunden (vgl. vorstehend E. 3.2). Auf Verfahrensstadien, die bereits Gegenstand der früheren Beurteilung waren, darf nicht zurückgekommen werden. Ob das Beschleunigungsgebot eingehalten wurde, ist somit nur für die durch den Rückweisungsentscheid vom 6. Januar 2010 verursachte Verzögerung und für die gesamte Verfahrensdauer zu prüfen.
6.5.4 Die Vorinstanz hätte aufgrund der Bindungswirkung des Rückweisungsentscheides die beiden früheren vom Bundesgericht gutgeheissenen Rechtsmittel im gleichen Verfahren (Urteile 1B_296/2008 vom 11. Dezember 2008 und 1B_206/2008 vom 15. Januar 2009) nicht in Abweichung von ihrem ersten Urteil unter dem Aspekt "mehrerer Rechtsmittelverfahren" als Verletzung des Beschleunigungsgebotes berücksichtigen dürfen. Damit verstösst sie gegen Bundesrecht. Indessen fällt eine Abänderung des vorinstanzlichen Urteils zulasten des Beschwerdeführers ausser Betracht, weshalb es beim Ergebnis des angefochtenen Entscheids bleibt.
6.5.5 Die Ermittlungen wurden aufgrund des Überfalls auf die Poststelle Jona-Kempraten am 2. Juni 2004 eingeleitet. Das kantonale Verfahren nahm sieben Jahre in Anspruch. Vom ersten Hinweis auf die Täterschaft des Beschwerdeführers durch die DNA-Spur im Mai 2007 bis zum zweiten vorinstanzlichen Entscheid vergingen rund vier Jahre. Es handelt sich um ein umfangreiches Verfahren mit internationalem Bezug. Der Beschwerdeführer musste von Österreich ausgeliefert und weitere Personen rechtshilfeweise befragt werden. Angesichts der konkreten Umstände verletzt die vorinstanzliche Würdigung, die Gesamtdauer des Verfahrens stehe mit dem Beschleunigungsgebot in Einklang, kein Bundesrecht.
Aufgrund der Rückweisung vom 6. Januar 2010 verlängerte sich das Verfahren um zwei Jahre, d.h. vom 16. Juni 2009 bis am 16. März 2011. Auch wenn die Vorinstanz die Strafe wegen dieser Verzögerung nur in geringem Umfang senkt, liegen sowohl die Strafreduktion als auch die Strafhöhe angesichts der massgebenden Strafzumessungskriterien (<ref-law>, E. 6.5.2) innerhalb ihres Ermessens. Die Rüge ist unbegründet.
7. 7.1 Der Beschwerdeführer rügt, die Vorinstanz rechne die Ersatzmassnahmen, welche sie nach der Haftentlassung am 1. Juli 2010 angeordnet habe, lediglich zu einem Drittel statt zu 80 % auf die Strafe an. Er habe wegen der Passsperre bzw. der Meldepflicht bei seinem Vater leben müssen und nicht arbeiten dürfen. Es sei ihm verwehrt gewesen, seine Tochter in Wien zu besuchen. Die Einschränkungen seien erheblicher als in Halbgefangenschaft, wo er tagsüber hätte arbeiten können.
7.2 Die Staatsanwaltschaft entliess den Beschwerdeführer am 1. Juli 2010 mit der Auflage einer wöchentlichen Meldepflicht und einer Passsperre aus der Untersuchungshaft. Sie verpflichtete ihn, bei seinem Vater in Eschenbach zu wohnen (vgl. Vorakten act. RW/18). Die Vorinstanz rechnet die Dauer dieser Einschränkungen von insgesamt 258 Tagen zu einem Drittel mit 86 Tagen auf die Strafe an (angefochtenes Urteil S. 20).
7.3 Das Gericht rechnet die Untersuchungshaft, die der Täter während dieses oder eines anderen Verfahrens ausgestanden hat, auf die Strafe an (<ref-law>). Anstelle der Untersuchungshaft angeordnete freiheitsentziehende Ersatzmassnahmen sind analog der Untersuchungshaft auf die zu verbüssende Freiheitsstrafe anzurechnen. Bei der Bestimmung der anrechenbaren Dauer der Ersatzmassnahme hat der Richter den Grad der Beschränkung der persönlichen Freiheit im Vergleich zum Freiheitsentzug bei Untersuchungshaft zu berücksichtigen (<ref-ruling> E. 4 S. 6 f. mit Hinweisen). Ist der Vollzug der Ersatzmassnahme mit jenem der Untersuchungshaft ungefähr gleichzusetzen, so ist grundsätzlich die ganze Dauer anrechenbar. Wird die Ersatzmassnahme hingegen in einer Institution vollzogen, welche die persönliche Freiheit wesentlich weniger beschränkt, kann nur eine entsprechend gekürzte Dauer in Rechnung gestellt werden (<ref-ruling> E. 2a S. 3 mit Hinweis). Diese unter altem Recht entwickelte Rechtsprechung bleibt grundsätzlich auch auf die Strafzumessung bzw. den -vollzug nach dem neuen allgemeinen Teil des Strafgesetzbuches anwendbar (CHRISTOPH METTLER, in: Basler Kommentar Strafrecht I, 2. Aufl. 2007, N. 20 und N. 26 zu <ref-law>).
7.4 Die dem Beschwerdeführer auferlegten Ersatzmassnahmen sind entgegen seiner Auffassung nicht mit der Halbgefangenschaft vergleichbar. Er konnte sich innerhalb des schweizerischen Staatsgebietes frei bewegen und war lediglich hinsichtlich der Ausreise und des Wohnortes eingeschränkt. Hingegen musste er keinen Eingriff in seinen Tagesablauf oder in sein Kontaktrecht zu Drittpersonen hinnehmen. Dass er gewisse Verwandte im Ausland nicht besuchen konnte, rechtfertigt keinen höheren Anrechnungsgrad. Seiner Tochter stand es frei, ihn jederzeit zu besuchen. Der Umstand, dass der Beschwerdeführer keiner Arbeit nachgehen durfte, ist nicht den Ersatzmassnahmen, sondern dem aufenthaltsrechtlichen Status zuzuschreiben. Als Verfahrensbeteiligter hatte der Beschwerdeführer gewisse Einschränkungen seiner Rechte hinzunehmen. Die Anrechnung der Ersatzmassnahmen zu einem Drittel der Gesamtdauer, d.h. mit 86 Tagen, ist mit <ref-law> vereinbar, weil die Beschränkung der persönlichen Freiheit geringfügig war.
8. Die Beschwerde ist abzuweisen, soweit darauf einzutreten ist. Das Gesuch um unentgeltliche Rechtspflege ist ebenfalls abzuweisen, da die Beschwerde aussichtslos war (<ref-law>). Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer kostenpflichtig (<ref-law>). Seine angespannte finanzielle Situation ist bei der Bemessung der Gerichtskosten angemessen zu berücksichtigen.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 1'600.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien und dem Kantonsgericht St. Gallen, Strafkammer, schriftlich mitgeteilt.
Lausanne, 10. Oktober 2011
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Schneider
Die Gerichtsschreiberin: Koch