Sachverhalt:
A. A.a Das Kreisgericht Rheintal sprach X._ am 10. März 2010 des Betrugs, der Veruntreuung und des Vergehens gegen das Bankengesetz schuldig. Es verurteilte ihn im Zusatz zum Strafbefehl der Staatsanwaltschaft Zug vom 18. Juni 2009 zu einer Freiheitsstrafe von 3 1⁄2 Jahren und behaftete ihn bei der Anerkennung der Zivilforderungen der A._ AG von EUR 1,6 Mio. nebst Zins zu 4,5 % seit dem 24. Oktober 2005 sowie von B._ über EUR 1,3 Mio. nebst Zins zu 4,5 % seit dem 2. Dezember 2005.
A.b Das Kantonsgericht St. Gallen wies am 26. September 2011 die Berufung von X._ und die Anschlussberufung der Staatsanwaltschaft gegen das Urteil vom 10. März 2010 ab. Es geht von folgendem Sachverhalt aus:
X._ war einzelzeichnungsberechtigter Direktor bzw. ab 2. Juni 2006 einziges Verwaltungsratsmitglied der C._ AG. Er erstellte im Jahre 2005 auf dem Briefpapier der C._ AG Flugblätter, auf welchen er die Entgegennahme von Publikumseinlagen empfahl. Er verbreitete das Papier und hielt zumindest D._ an, es zwecks Vermittlung von Investoren zu verwenden. Er wusste, dass die Bewerbung der Beteiligungsmöglichkeit durch die C._ AG als nicht dem Bankengesetz unterstellte Person unbefugt erfolgte.
Am 20. Oktober 2005 schloss X._ namens der C._ AG mit der A._ AG einen Darlehensvertrag ab. Gestützt darauf gewährte die A._ AG der C._ AG ein Darlehen von EUR 1,6 Mio., rückzahlbar innert 14 Monaten nebst Zins zu 4,5 % p.a.. Vereinbart war, dass das Darlehen in ein eigenständiges Finanzanlageprogramm mit einer bankenmässigen Absicherung investiert und später mit der versprochenen Rendite an die A._ AG zurückfliessen sollte. Stattdessen verwendete X._ dieses zur Finanzierung der laufenden Kosten der C._ AG. Die C._ AG zahlte das Darlehen nicht zurück. Auf ihren Konten waren per 17. November 2006 verfügbare Mittel von lediglich etwas mehr als EUR 100'000.-- vorhanden.
Am 2. Dezember 2005 überwies auch B._ gestützt auf einen Darlehensvertrag vom 21. November 2005 EUR 1,3. Mio. an die C._ AG. Vorgesehen war wiederum eine Darlehensdauer von 14 Monaten und eine Verzinsung von 4,5 %. Das Geld sollte in ein Wasserprojekt investiert werden, welches angeblich die Markteinführung eines schon zur Marktreife gebrachten Gesundheitsgetränks betraf. Anlässlich der Vertragsverhandlungen in den Räumlichkeiten der E._-bank in Bad Ragaz, an welchen zumindest zeitweise ein Vertreter dieser Bank anwesend war, wurde seitens X._s wahrheitswidrig der Eindruck vermittelt, die C._ AG verfüge über ein Kapital von mehreren hundert Millionen und benötige das Geld von B._ gar nicht, wodurch er diesen schliesslich zur Investition veranlasste. B._ kam durch den Verkauf einer Liegenschaft zum investierten Kapital. Er verfügte ansonsten über keinerlei weitergehende Erfahrung in Finanz- und Börsenangelegenheiten. Er verliess sich auf das Umfeld der C._ AG. Dass die A._ AG, deren Vertreter seiner Ansicht nach ein "seriöser Treuhänder" war, ebenfalls bei der C._ AG investierte, gab ihm zusätzliches Vertrauen. Die C._ AG war nicht fähig, das Darlehen zurückzuzahlen. Das Kantonsgericht lässt offen, ob das Wasserprojekt einen reellen Hintergrund aufwies. Das Kreisgericht gelangte zur Überzeugung, es habe sich dabei um eine blosse Idee gehandelt.
B. X._ führt Beschwerde in Strafsachen mit den Anträgen, die Urteile des Kantonsgerichts St. Gallen vom 26. September 2011 und des Kreisgerichts Rheintal vom 10. März 2010 aufzuheben und ihn in allen Anklagepunkten von Schuld und Strafe freizusprechen. Im Falle eines Schuldspruchs sei er milde zu bestrafen, und es sei ihm der bedingte Strafvollzug zu gewähren. Eventualiter sei die Strafsache zur neuen Beurteilung an die Vorinstanz zurückzuweisen.
Erwägungen:
1. Der Beschwerdeführer beantragt die Aufhebung sowohl des kantonsgerichtlichen Urteils als auch des erstinstanzlichen Urteils des Kreisgerichts Rheintal.
Gemäss Art. 80 Abs. 1 BGG ist die Beschwerde zulässig gegen Entscheide letzter kantonaler Instanzen und des Bundesstrafgerichts. Nach der Rechtsprechung kann der Entscheid einer unteren kantonalen Instanz nur mitangefochten werden, wenn entweder der letzten kantonalen Instanz nicht sämtliche vor Bundesgericht zulässigen Rügen unterbreitet werden konnten oder wenn solche Rügen zwar von der letzten kantonalen Instanz zu beurteilen waren, jedoch mit einer engeren Prüfungsbefugnis, als sie dem Bundesgericht zusteht (BGE 126 II 377 E. 8b; Urteil 6B_451/2010 vom 13. September 2010 E. 1). Diese Voraussetzungen sind hier nicht erfüllt. Auf die Beschwerde ist nicht einzutreten, soweit sie sich gegen das Urteil des Kreisgerichts Rheintal vom 10. März 2010 richtet.
2. 2.1 Der Beschwerdeführer rügt eine willkürliche Sachverhaltsfeststellung. Er habe mit den Flugblättern nichts zu tun gehabt. Er habe das Papier weder verfasst oder in Auftrag gegeben noch habe er dieses verwendet. Auch habe er D._ nicht angehalten, damit Kunden anzuwerben. Er wisse nicht, wie das Schreiben auf seinen Laptop gelangt sei. Unzutreffend sei, dass er gegenüber B._ kundgetan haben soll, die C._ AG verfüge über ein Kapital von mehreren Millionen. Bezüglich des Darlehens der A._ AG sei nie ein spezifischer Verwendungszweck vereinbart worden. Das Geld sei der C._ AG zur freien Verfügung überlassen worden.
2.2 Die Sachverhaltsfeststellung der Vorinstanz kann nur gerügt werden, wenn sie willkürlich (Art. 9 BV) ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG; BGE 134 IV 36 E. 1.4.1).
Willkür bei der Beweiswürdigung liegt vor, wenn der angefochtene Entscheid offensichtlich unhaltbar ist oder mit der tatsächlichen Situation in klarem Widerspruch steht. Dass eine andere Lösung oder Würdigung ebenfalls vertretbar oder gar zutreffender erscheint, genügt für die Annahme von Willkür nicht (BGE 137 I 1 E. 2.4; 134 I 140 E. 5.4; je mit Hinweisen). Die Rüge der Willkür muss präzise vorgebracht und begründet werden (Art. 106 Abs. 2 BGG). In der Beschwerde muss im Einzelnen dargelegt werden, inwiefern der angefochtene Entscheid an einem qualifizierten und offensichtlichen Mangel leidet. Auf eine rein appellatorische Kritik am angefochtenen Urteil tritt das Bundesgericht nicht ein (BGE 137 IV 1 E. 4.2.3; 136 II 489 E. 2.8; je mit Hinweisen).
2.3 Die Einwände des Beschwerdeführers erschöpfen sich in einer unzulässigen appellatorischen Kritik. Die Vorinstanz begründet ihren Entscheid eingehend, wozu sie auf die Akten Bezug nimmt. Der Beschwerdeführer beschränkt sich darauf, seine eigene Sicht der Dinge vorzutragen. Weshalb die vorinstanzliche Beweiswürdigung offensichtlich unhaltbar und damit willkürlich sein soll, zeigt er nicht auf. Auf die Kritik an der Sachverhaltsfeststellung ist nicht einzutreten.
3. Der Beschwerdeführer wendet sich gegen den Schuldspruch wegen Vergehens gegen das Bankengesetz. Er legt seiner rechtlichen Argumentation jedoch lediglich eigene, von der willkürfreien Sachverhaltsfeststellung der Vorinstanz abweichende Tatsachenbehauptungen zugrunde. Darauf ist nicht einzutreten (Art. 105 Abs. 1 BGG).
4. Die Vorinstanz erachtet im Zusammenhang mit der Darlehensvergabe durch die A._ AG den Tatbestand der Veruntreuung nach Art. 138 Ziff. 1 StGB als erfüllt, da der Beschwerdeführer das Darlehen nicht vereinbarungsgemäss in das bankgesicherte Finanzanlageprogramm investierte, sondern zur Finanzierung des laufenden Betriebs der C._ AG verwendete. Der Beschwerdeführer macht in rechtlicher Hinsicht geltend, das Darlehen sei der C._ AG zur freien Verfügung überlassen worden, weshalb von einer Zweckentfremdung nicht die Rede sein könne. Er weicht auch insofern von der verbindlichen Sachverhaltsfeststellung der Vorinstanz ab, weshalb auf die Rüge nicht einzutreten ist.
5. Die Vorinstanz sprach den Beschwerdeführer des Betrugs zum Nachteil von B._ schuldig. Der Beschwerdeführer rügt eine Verletzung von Art. 146 Abs. 1 StGB.
5.1 Den Tatbestand des Betrugs im Sinne von Art. 146 Abs. 1 StGB erfüllt, wer in der Absicht, sich oder einen andern unrechtmässig zu bereichern, jemanden durch Vorspiegelung oder Unterdrückung von Tatsachen arglistig irreführt oder ihn in einem Irrtum arglistig bestärkt und so den Irrenden zu einem Verhalten bestimmt, wodurch dieser sich selbst oder einen andern am Vermögen schädigt.
5.2 Die Vorinstanz stellt verbindlich fest, der Beschwerdeführer habe B._ bewusst den Eindruck vermittelt, die C._ AG verfüge über grosse Kapitalreserven. Sie geht zu Recht von einer Täuschung aus, die für die Vermögensverfügung und den schliesslich eingetretenen Vermögensschaden kausal war. In diesem Zusammenhang nicht mehr zu hören ist der Beschwerdeführer mit dem Einwand, er habe B._ nie eine hohe Sicherheit vorgespiegelt.
5.2 Die Vorinstanz stellt verbindlich fest, der Beschwerdeführer habe B._ bewusst den Eindruck vermittelt, die C._ AG verfüge über grosse Kapitalreserven. Sie geht zu Recht von einer Täuschung aus, die für die Vermögensverfügung und den schliesslich eingetretenen Vermögensschaden kausal war. In diesem Zusammenhang nicht mehr zu hören ist der Beschwerdeführer mit dem Einwand, er habe B._ nie eine hohe Sicherheit vorgespiegelt.
5.3 5.3.1 Der Beschwerdeführer wendet eventualiter ein, die Täuschung sei nicht arglistig gewesen. B._ habe es unterlassen, die Behauptung, die C._ AG verfüge über ein Millionenvermögen, auf ihre Richtigkeit zu überprüfen. Damit habe er seine Sorgfaltspflichten derart massiv verletzt, dass Arglist nicht mehr bejaht werden könne.
5.3.2 Arglist im Sinne von Art. 146 Abs. 1 StGB ist gegeben, wenn der Täter ein ganzes Lügengebäude errichtet oder sich besonderer Machenschaften oder Kniffe bedient. Ein Lügengebäude liegt vor, wenn mehrere Lügen derart raffiniert aufeinander abgestimmt sind und von besonderer Hinterhältigkeit zeugen, dass sich selbst eine kritische Person täuschen lässt. Als besondere Machenschaften gelten Erfindungen und Vorkehren sowie das Ausnützen von Begebenheiten, die allein oder gestützt auf Lügen oder Kniffe geeignet sind, den Betroffenen irrezuführen (BGE 135 IV 76 E. 5.2 S. 81 mit Hinweisen). Arglist wird auch bei einfachen falschen Angaben bejaht, wenn deren Überprüfung nicht oder nur mit besonderer Mühe möglich oder nicht zumutbar ist, und wenn der Täter das Opfer von der möglichen Überprüfung abhält oder nach den Umständen voraussieht, dass dieses die Überprüfung der Angaben aufgrund eines besonderen Vertrauensverhältnisses unterlassen werde (BGE 135 IV 76 E. 5.2 S. 81 f.; 128 IV 18 E. 3a; je mit Hinweisen).
Arglist scheidet aus, wenn der Getäuschte den Irrtum mit einem Mindestmass an Aufmerksamkeit hätte vermeiden können. Dabei ist die jeweilige Lage und Schutzbedürftigkeit des Betroffenen im Einzelfall entscheidend. Besondere Fachkenntnis und Geschäftserfahrung des Opfers sind in Rechnung zu stellen. Namentlich ist auf geistesschwache, unerfahrene oder aufgrund von Alter oder Krankheit beeinträchtigte Opfer oder auf solche, die sich in einem Abhängigkeits- oder Unterordnungsverhältnis oder in einer Notlage befinden, und deshalb kaum imstande sind, dem Täter zu misstrauen, Rücksicht zu nehmen. Auch unter dem Gesichtspunkt der Opfermitverantwortung erfordert die Erfüllung des Tatbestands indes nicht, dass das Täuschungsopfer die grösstmögliche Sorgfalt walten lässt und alle erdenklichen Vorkehren trifft. Entsprechend entfällt der strafrechtliche Schutz nicht bei jeder Fahrlässigkeit des Getäuschten, sondern nur bei Leichtfertigkeit, welche das betrügerische Verhalten des Täters in den Hintergrund treten lässt (BGE 135 IV 76 E. 5.2 S. 80 f.; 128 IV 18 E. 3a; 126 IV 165 E. 2a; je mit Hinweisen).
5.3.3 Die Vorinstanz nimmt zutreffend auch die Tatbestandsvoraussetzung der Arglist als gegeben an. Sie weist darauf hin, dass der Beschwerdeführer einen grossen Aufwand betrieb, um B._ zu täuschen, indem er namentlich das Treffen in den Räumlichkeiten der E._-bank arrangierte, an welchem zumindest zeitweise auch ein Vertreter der Bank anwesend war. Angesichts dieses Treffens und des Verhaltens des Beschwerdeführers kann dem in Finanz- und Börsenangelegenheiten relativ unerfahrenen B._ nicht zum Vorwurf gemacht werden, dass er nicht überprüfte, ob die C._ AG tatsächlich über ein Millionenvermögen verfügt (vgl. Urteil S. 22 f. und 28). Ein geradezu leichtfertiges Verhalten, welches die Annahme von Arglist ausschliesst, liegt nicht vor.
5.4 Der Beschwerdeführer handelte mit Vorsatz und in Bereicherungsabsicht (vgl. Urteil S. 24 f.). Er machte sich daher des Betrugs im Sinne von Art. 146 Abs. 1 StGB strafbar.
6. Der Beschwerdeführer argumentiert, die Vorinstanz habe die Frage, ob das Wasserprojekt und weitere Unternehmungen der C._ AG einen reellen Hintergrund aufwiesen, zu Unrecht offen gelassen.
Der Einwand geht fehl. Die Vorinstanz sprach den Beschwerdeführer der Veruntreuung zum Nachteil der A._ AG schuldig, da er das Darlehen zweckwidrig nicht in das bankgesicherte Finanzanlageprogramm investierte. Damit konnte offenbleiben, ob dieses Projekt einen reellen Hintergrund hatte. Die Täuschung von B._ sah die Vorinstanz in den falschen Angaben über die wirtschaftliche Leistungsfähigkeit der C._ AG. Der Vorwurf, das Wasserprojekt habe keinen reellen Hintergrund gehabt, war auch für die rechtliche Qualifikation als Betrug nicht von Relevanz. Dass die Frage auf die Strafzumessung einen Einfluss gehabt hätte, macht der Beschwerdeführer nicht geltend.
7. 7.1 Der Beschwerdeführer rügt im Strafpunkt eine Verletzung von Art. 42 sowie Art. 47-49 StGB. Er habe sämtliche finanziellen Verpflichtungen der Gesellschaft privat auf sich genommen. Er setze seit Jahren alles daran, den von der A._ AG und der Erbengemeinschaft B._ erlittenen Schaden wieder auszugleichen. Die Vorinstanz habe sein Nachtatverhalten zu Unrecht nicht strafmildernd berücksichtigt. Angemessen sei eine Freiheitsstrafe von höchstens zwei Jahren, für welche ihm der bedingte Vollzug zu gewähren sei.
7.2 Das Bundesgericht greift auf Beschwerde in Strafsachen hin nur ein, wenn die Vorinstanz den gesetzlichen Strafrahmen über- oder unterschritten hat, wenn sie von rechtlich nicht massgebenden Kriterien ausgegangen ist oder wesentliche Gesichtspunkte ausser Acht gelassen bzw. durch Überschreitung oder Missbrauch ihres Ermessens falsch gewichtet hat (BGE 136 IV 55 E. 5.6; 135 IV 130 E. 5.3.1; 134 IV 17 E. 2.1).
Die Vorinstanz setzt sich in ihren Erwägungen zur Strafzumessung mit den wesentlichen schuldrelevanten Komponenten auseinander und würdigt diese zutreffend. Dass sie sich dabei von rechtlich nicht massgeblichen Gesichtspunkten hätte leiten lassen oder wesentliche Aspekte nicht berücksichtigt hätte, ist nicht ersichtlich. Die Freiheitsstrafe von 3 1⁄2 Jahren hält sich, insbesondere in Berücksichtigung der hohen Deliktssumme, im Rahmen des sachrichterlichen Ermessens.
Die Vorinstanz setzt sich in ihren Erwägungen zur Strafzumessung mit den wesentlichen schuldrelevanten Komponenten auseinander und würdigt diese zutreffend. Dass sie sich dabei von rechtlich nicht massgeblichen Gesichtspunkten hätte leiten lassen oder wesentliche Aspekte nicht berücksichtigt hätte, ist nicht ersichtlich. Die Freiheitsstrafe von 3 1⁄2 Jahren hält sich, insbesondere in Berücksichtigung der hohen Deliktssumme, im Rahmen des sachrichterlichen Ermessens.
7.3 7.3.1 Das Gericht mildert die Strafe, wenn der Täter aufrichtige Reue betätigt, namentlich den Schaden, soweit es ihm zuzumuten war, ersetzt hat (Art. 48 lit. d StGB; Art. 64 Abs. 5 aStGB). Nach der Rechtsprechung genügt nicht jede Wiedergutmachung des Schadens als Betätigung aufrichtiger Reue. Verlangt wird eine besondere Anstrengung seitens des Fehlbaren, die er freiwillig und uneigennützig weder nur vorübergehend noch allein unter dem Druck des drohenden oder hängigen Strafverfahrens erbringen muss. Der Täter muss Einschränkungen auf sich nehmen und alles daran setzen, das geschehene Unrecht wieder gut zu machen. Aufrichtige Reue setzt voraus, dass er die Schwere seiner Verfehlung einsieht und die Tat gesteht (BGE 107 IV 98; Urteil 6B_857/2010 vom 4. April 2011 E. 5.2.2.5).
7.3.2 Die Vorinstanz erwägt, der Deliktsbetrag sei vollständig aufgebraucht und der Beschwerdeführer verfüge über keine ausreichenden Mittel, um B._ bzw. dessen Erben schadlos zu halten. Eine Schadloshaltung der A._ AG sei bis dato ebenfalls unterblieben. Strafmindernde oder strafmildernde Täterkomponenten seien nicht gegeben. Der Beschwerdeführer habe sich zwar zur Rückzahlung der Deliktsbeträge bereit erklärt. Angesichts der zivilrechtlichen Ausgangslage sei dies jedoch zu erwarten gewesen. Tateinsicht oder Reue habe er nicht gezeigt (Urteil S. 28).
7.3.3 Die vorinstanzlichen Erwägungen sind nicht zu beanstanden. Der Beschwerdeführer behauptet nicht, die Vorinstanz sei von falschen Tatsachen ausgegangen. Er zeigt in seiner Beschwerde auch nicht auf, welche konkreten Anstrengungen er im Hinblick auf eine Wiedergutmachung unternommen haben will. Die Beschwerde ist auch in diesem Punkt unbegründet.
7.4 Bei Freiheitsstrafen von mehr als drei Jahren sieht das Gesetz nur den unbedingten Vollzug vor (vgl. Art. 43 Abs. 1 StGB). Die Vorinstanz hatte die Strafe von 3 1⁄2 Jahren folglich zwingend unbedingt auszusprechen.
8. Die Beschwerde ist abzuweisen, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer kostenpflichtig (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf eingetreten wird.
2. Die Gerichtskosten von Fr. 4'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Kantonsgericht St. Gallen, Strafkammer, schriftlich mitgeteilt.
Lausanne, 26. März 2012
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Mathys
Die Gerichtsschreiberin: Unseld