Sachverhalt: A. Das Kreisgericht Werdenberg-Sarganserland sprach X._ am 4. März 2015 schuldig des Diebstahls und des Versuchs dazu, des mehrfachen Hausfriedensbruchs sowie des rechtswidrigen Aufenthalts in der Schweiz. Es verurteilte ihn zu einer Freiheitsstrafe von 6 Monaten unter Anrechnung der erstandenen Untersuchungshaft von 2 Tagen sowie der ausländerrechtlichen Haft von 152 Tagen. Das Kantonsgericht St. Gallen gelangte am 26. August 2016 zu denselben Schuldsprüchen und verurteilte X._ebenfalls zu einer Freiheitsstrafe von 6 Monaten, wobei es lediglich die Untersuchungshaft von 2 Tagen anrechnete. B. X._ führt Beschwerde in Strafsachen mit dem Antrag, der Entscheid des Kantonsgerichts St. Gallen vom 26. August 2016 sei hinsichtlich der alleinigen Anrechnung von 2 Tagen Untersuchungshaft aufzuheben. Stattdessen seien an den Vollzug der Freiheitsstrafe von 6 Monaten zusätzlich seine ausländerrechtliche Haft vom 23. Mai 2014 bis 22. Oktober 2014 (153 Tage) sowie seine Untersuchungshaft in der Strafuntersuchung der Staatsanwaltschaft des Kantons Appenzell Innerrhoden (ST.2015.281) vom 31. August 2015 bis 13. November 2015 (75 Tage) anzurechnen. Eventualiter sei der angefochtene Entscheid im erwähnten Punkt aufzuheben und die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. X._ ersucht um unentgeltliche Rechtspflege.