Sachverhalt:
A. Der türkische Staatsangehörige X._ (geb. 10. Januar 1972) reiste am 13. August 1986 im Rahmen des Familiennachzugs in die Schweiz ein. Am 4. September 1990 wurde ihm die Niederlassungsbewilligung erteilt.
Am 25. Juli 1994 heiratete X._ in der Türkei die Landsfrau Y._ (geb. 1. Februar 1970). Die Ehefrau sowie die drei gemeinsamen am 5. Mai 1995, 4. Dezember 1997 bzw. 3. Februar 2009 in der Schweiz geborenen Kinder verfügen über die Niederlassungsbewilligung.
B. Am 17. September 1999 verwarnte die Fremdenpolizei (heute Migrationsamt) des Kantons St. Gallen X._, nachdem er Konkurs mit einer Verlustsumme von Fr. 61'000.-- erlitten hatte, und stellte ihm schwerwiegende fremdenpolizeiliche Massnahmen in Aussicht, falls sein Verhalten erneut zu berechtigten Klagen Anlass geben sollte.
X._ wurde wiederholt straffällig und wie folgt verurteilt:
Strafbescheid des Untersuchungsamtes Altstätten vom 15. August 2006 wegen Hehlerei: Gefängnisstrafe von fünf Monaten, bedingt, Probezeit von zwei Jahren.
Urteil des Landesgerichtes Feldkirch vom 13. November 2007 wegen mehrfachen Verbrechens und Vergehens gegen das österreichische Suchtmittelgesetz, begangen Ende 2002 bis Ende 2004: Freiheitsstrafe von zwei Jahren.
Entscheid des Kreisgerichtes Rheintal vom 17. Februar 2010 wegen Verbrechens gegen das Betäubungsmittelgesetz (BetmG), des Vergehens gegen das BetmG und des versuchten In-Umlauf-Setzens falschen Geldes, begangen in den Zeiträumen 2005 bis November 2007 bzw. Januar bis Herbst 2008: Freiheitsstrafe von drei Jahren. Die durch das Untersuchungsamt Altstätten bedingt ausgefällte Strafe wurde vollziehbar erklärt.
Vom 9. November 2007 bis zum 10. Januar 2008 verbüsste X._ einen Teil der ihm vom Landesgericht Feldkirch auferlegten Strafe, bevor diese am 10. Januar 2008 zugunsten einer gesundheitsbezogenen Massnahme aufgehoben wurde. Am 17. Februar 2009 wurde X._ erneut verhaftet. Bis zum 31. Mai 2009 befand er sich in Untersuchungshaft und vom 1. Juni 2009 bis zum 7. Januar 2010 im vorzeitigen Strafvollzug. Am 16. Juni 2010 trat er den ordentlichen Strafvollzug an. Im August 2011 wurde er bedingt aus dem Strafvollzug entlassen.
C. Mit Verfügung vom 20. Oktober 2010 widerrief das Migrationsamt des Kantons St. Gallen die Niederlassungsbewilligung von X._ und wies ihn auf die Entlassung aus dem Strafvollzug aus der Schweiz weg.
Den dagegen von X._ erhobenen Rekurs wies das Sicherheits- und Justizdepartement des Kantons St. Gallen mit Entscheid vom 12. Mai 2011 ab. Die Beschwerde an das Verwaltungsgericht des Kantons St. Gallen blieb ohne Erfolg.
D. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 30. Januar 2012 beantragt X._, das Urteil des Verwaltungsgerichts des Kantons St. Gallen vom 7. Dezember 2011 aufzuheben und das Migrationsamt des Kantons St. Gallen anzuweisen, die Niederlassungsbewilligung zu "verlängern". Zudem ersucht er um Gewährung der unentgeltlichen Rechtspflege und Verbeiständung.
Das Sicherheits- und Justizdepartement und das Verwaltungsgericht des Kantons St. Gallen sowie das Bundesamt für Migration schliessen auf Abweisung der Beschwerde. Das Migrationsamt des Kantons St. Gallen liess sich nicht vernehmen.
Erwägungen:
1. 1.1 Gegen kantonal letztinstanzliche Entscheide über den Widerruf der Niederlassungsbewilligung ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten zulässig (Art. 82 lit. a, Art. 83 lit. c Ziff. 2 [e contrario] und Art. 86 Abs. 1 lit. d und Abs. 2 BGG; BGE 135 II 1 E. 1.2.1 S. 4; Urteil 2C_401/2012 vom 18. September 2012 E. 1.3; 2C_478/2010 vom 17. November 2010 E. 2, nicht publ. in: BGE 137 II 10), und der Beschwerdeführer ist zur Ergreifung dieses Rechtsmittels befugt (Art. 89 BGG). Der Beschwerdeführer kann sich grundsätzlich gestützt auf das Familienleben auch auf Art. 8 EMRK berufen.
1.2 Mit der Beschwerde kann eine Rechtsverletzung nach Art. 95 und 96 BGG geltend gemacht werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Dabei prüft es, unter Berücksichtigung der allgemeinen Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), an sich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (BGE 135 II 384 E. 2.2.1 S. 389). Die Verletzung von Grundrechten und von kantonalem und interkantonalem Recht prüft es hingegen nur insoweit, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG).
1.3 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, wie die Vorinstanz ihn festgestellt hat (Art. 105 Abs. 1 BGG). Es kann diesen bloss berichtigen oder ergänzen, falls er offensichtlich unrichtig oder in Verletzung wesentlicher Verfahrensrechte ermittelt worden ist (Art. 105 Abs. 2 BGG). Der Betroffene muss dartun, dass und inwiefern der festgestellte Sachverhalt in einem entscheidwesentlichen Punkt klar und eindeutig mangelhaft erscheint (vgl. Art. 42 Abs. 2 und Art. 106 Abs. 2 BGG; BGE 133 II 249 E. 1.4.3 S. 254 f.; 133 III 350 E. 1.3 S. 351, 393 E. 7.1 S. 398, 462 E. 2.4 S. 466). Auf rein appellatorische Kritik an der Sachverhaltsermittlung oder der Beweiswürdigung tritt das Bundesgericht nicht ein (BGE 136 II 101 E. 3 S. 104 f.).
Neue Tatsachen und Beweismittel dürfen nur soweit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (Art. 99 Abs. 1 BGG; vgl. BGE 135 I 143 E. 1.5 S. 146 f.).
Das Schreiben des Arztes Johannes Berger vom 30. Dezember 2011 an den Rechtsvertreter des Beschwerdeführers ist als echtes Novum für die Beurteilung des Bewilligungswiderrufs unbeachtlich; es vermöchte allerdings am Ausgang des Verfahrens ohnehin nichts zu ändern.
2. 2.1 Nach Art. 63 Abs. 1 lit. a (in Verbindung mit Art. 62 lit. b) und Art. 63 Abs. 2 des Bundesgesetzes vom 16. Dezember 2005 über die Ausländerinnen und Ausländer (AuG; SR 142.20) kann die Niederlassungsbewilligung auch nach einem - wie hier - länger als 15 Jahre dauernden ununterbrochenen und ordnungsgemässen Aufenthalt in der Schweiz widerrufen werden, wenn der Ausländer zu einer längerfristigen Freiheitsstrafe verurteilt wurde. Als längerfristig gilt eine Freiheitsstrafe von mehr als einem Jahr (BGE 135 II 377 E. 4.2 S. 379 ff.), wobei es keine Rolle spielt, ob die Freiheitsstrafe bedingt, teilbedingt oder unbedingt ausgesprochen wurde (Urteil 2C_515/2009 vom 27. Januar 2010 E. 2.1).
Ebenso ist ein Bewilligungswiderruf gemäss Art. 63 Abs. 1 lit. b und Art. 63 Abs. 2 AuG möglich, wenn der Ausländer in schwerwiegender Weise gegen die öffentliche Sicherheit und Ordnung verstossen oder diese gefährdet hat (vgl. BGE 137 II 297 E. 3 S. 302 ff. mit Hinweisen).
2.2 Der Beschwerdeführer wurde wiederholt straffällig und zuletzt zu einer Freiheitsstrafe von drei Jahren verurteilt, womit er unbestrittenermassen einen Widerrufsgrund gemäss Art. 62 lit. b AuG gesetzt hat. Ob das Verhalten des Beschwerdeführers im Zusammenhang mit der schlechten finanziellen Situation der Familie zugleich als schwerwiegender Verstoss gegen die öffentliche Sicherheit und Ordnung im Sinne von Art. 63 Abs. 1 lit. b AuG zu werten ist, bedarf keiner näheren Betrachtung, weil dieser Widerrufsgrund in der vorliegenden Konstellation ohnehin nur subsidiär zur Anwendung kommt, wenn es an den Voraussetzungen für einen Widerruf in Anwendung von Art. 62 lit. b (in Verbindung mit Art. 63 Abs. 1 lit. a) AuG gebricht (vgl. BGE 135 II 377 E. 4.2 S. 381). Es erübrigt sich daher, auf die diesbezüglichen Vorbringen des Beschwerdeführers einzugehen.
3. 3.1 Wenn ein Ausländer durch sein Verhalten einen Widerrufsgrund gesetzt hat, bleibt zu prüfen, ob diese Massnahme auch als verhältnismässig erscheint (BGE 135 II 377 E. 4.3 f. S. 381 ff.; vgl. auch Art. 96 Abs. 1 AuG). Dabei sind namentlich die Schwere des Verschuldens des Betroffenen, der Grad der Integration bzw. die Dauer der bisherigen Anwesenheit sowie die ihm und seiner Familie drohenden Nachteile zu berücksichtigen (BGE 135 II 377 E. 4.3 S. 381). Bei wiederholter bzw. schwerer Straffälligkeit, insbesondere bei Gewalt- und Betäubungsmitteldelikten, ist ein Widerruf der Niederlassungsbewilligung selbst dann nicht ausgeschlossen, wenn der Ausländer hier geboren ist und sein ganzes bisheriges Leben im Land verbracht hat (vgl. Urteil 2C_562/2011 vom 21. November 2011 E. 3.3; BGE 130 II 176 E. 4.4.2 S. 190 mit Hinweisen). Bei schweren Straftaten und bei Rückfall bzw. wiederholter Delinquenz besteht regelmässig ein wesentliches öffentliches Interesse, die Anwesenheit eines Ausländers zu beenden, der dermassen die öffentliche Sicherheit und Ordnung beeinträchtigt (vgl. das Urteil 2C_903/2010 vom 6. Juni 2011 E. 3.1, nicht publ. in BGE 137 II 233; BGE 130 II 176 E. 4.4.2 S. 190).
3.2 Der angefochtene Entscheid gibt die bundesgerichtliche Praxis zum Widerruf der Niederlassungsbewilligung zutreffend wieder und die Vorinstanz, auf deren Ausführungen ergänzend verwiesen werden kann, hat die auf dem Spiel stehenden Interessen im Rahmen von Art. 63 Abs. 2 i.V.m. Art. 62 lit. b AuG bzw. Art. 8 Ziff. 2 EMRK geprüft und differenziert gegeneinander abgewogen.
3.2.1 Ausgangspunkt und Massstab sowohl für die Schwere des Verschuldens als auch für die fremdenpolizeiliche Interessenabwägung ist hier die vom Strafrichter verhängte Strafe. Der Beschwerdeführer wurde zuletzt wegen Drogendelikten (im Zusammenhang mit Kokain und Ecstasy-Tabletten) und wegen versuchten In-Umlauf-Setzens falschen Geldes zu einer Freiheitsstrafe von drei Jahren verurteilt. Bereits vor dieser Verurteilung war der Beschwerdeführer in Österreich wegen Drogendelikten (unter anderem Verkauf von rund 4 1/2 kg Haschisch sowie rund 700g Kokain) zu einer Freiheitsstrafe verurteilt worden. Weder die ausländerrechtliche Verwarnung vom September 1999, noch die bedingte Strafe wegen Hehlerei, noch der Strafvollzug in Österreich vermochten ihn von erneuten Straftaten abzuhalten. Die Vorinstanz hat das Verschulden des Beschwerdeführers aus fremdenpolizeirechtlicher Sicht zutreffend als schwer erachtet. Vorliegend kann auch ein Rückfallrisiko nicht ausgeschlossen werden, zumal der Beschwerdeführer nicht berufstätig ist, er die Aufnahme einer Erwerbstätigkeit wegen psychischen Problemen nicht für möglich hält, die IV-Leistungen eingestellt wurden und auch die Ehefrau nicht über ein Einkommen verfügt. Dass der Beschwerdeführer seit dem Jahr 2008 nicht mehr straffällig geworden ist, vermag die diesbezüglichen Bedenken nicht auszuräumen, da sich der Beschwerdeführer seither grösstenteils in Haft befand.
Die vorinstanzliche Beurteilung entspricht der Rechtsprechung des Bundesgerichts, das im Zusammenhang mit Drogenhandel - in Übereinstimmung mit der in Europa vorherrschenden Rechtsauffassung (vgl. BGE 129 II 215 E. 6 u. 7 S. 220 ff. und das EGMR-Urteil Arvelo Aponte gegen Niederlande vom 3. November 2011 [28770/05] § 58) - ausländerrechtlich eine strenge Praxis (BGE 125 II 521 E. 4a/aa S. 527) verfolgt.
3.2.2 An der Entfernung und Fernhaltung des Beschwerdeführers besteht somit ein erhebliches sicherheitspolizeiliches Interesse, das nur durch entsprechend gewichtige private Interessen aufgewogen werden könnte, d.h. wenn aussergewöhnlich schwerwiegende Umstände gegen eine Wegweisung sprechen würden. Die Vorinstanz hat ausführlich und umfassend geprüft, inwieweit der Beschwerdeführer solche besonderen Gründe für einen weiteren Verbleib in der Schweiz geltend machen kann. In Würdigung aller wesentlichen Kriterien (wie Anwesenheitsdauer in der Schweiz, familiäre Situation bzw. Beziehungsverhältnisse, Arbeits- und Ausbildungssituation, Integration, finanzielle Lage, Sprachkenntnisse, persönliches Umfeld) hat sie erkannt, insgesamt überwiege das öffentliche Interesse an der Entfernung des Beschwerdeführers. Diese verletze weder nationales Recht noch Art. 8 EMRK.
3.2.3 Was der Beschwerdeführer dagegen vorbringt, ändert an dieser Beurteilung nichts. Angesichts der Schwere der begangenen Straftaten vermag dem Beschwerdeführer weder der Umstand zu helfen, dass er im Alter von 14 Jahren in die Schweiz einreiste, noch dass er seit 26 Jahren seinen Lebensmittelpunkt hier hat. Wie die Vorinstanz zutreffend darlegt, ist der Beschwerdeführer trotz langer Anwesenheitsdauer weder sozial noch beruflich in der Schweiz integriert. Er zeigt nicht auf, inwiefern ihm eine Rückkehr in die Türkei oder seine Integration dort nicht zumutbar wäre. Dass für ihn die Situation in der Türkei allenfalls weniger günstig wäre als in der Schweiz, ist nicht entscheidend. Eine psychiatrische Behandlung ist im Übrigen auch in der Türkei möglich.
Die Würdigung der familiären Verhältnisse führt nicht zu einem anderen Ergebnis. Zwar würde eine Rückkehr in die Heimat die Familie, insbesondere das älteste Kind, hart treffen. Die Ehefrau sowie die Kinder verfügen aber über die Niederlassungsbewilligung und haben damit die Möglichkeit, in der Schweiz zu verbleiben. Wohl können familiäre Beziehungen dazu führen, dass von einer Entfernung eines straffällig gewordenen Ausländers abzusehen ist, wenn die Massnahme wegen der Unzumutbarkeit der Ausreise für die Familienangehörigen zu einer Trennung der Familiengemeinschaft führt. Die Art und Schwere der vorliegend begangenen Betäubungsmitteldelikte sowie das Verschulden des Beschwerdeführers lassen eine solche Rücksichtnahme indessen nicht zu. Das - wie dargelegt - erhebliche öffentliche Interesse an der Entfernung des Beschwerdeführers überwiegt sein privates Interesse sowie dasjenige seiner Angehörigen an seinem weiteren Verbleib in der Schweiz, selbst wenn die familiäre Beziehung deshalb nur noch unter erschwerten Bedingungen gelebt werden kann (vgl. BGE 129 II 215 E. 3.4 und 4.1 S. 218; zu der hier zwar nicht anwendbaren Zweijahresregel vgl. BGE 120 Ib 6 E. 4b S. 14, unter Hinweis auf BGE 110 Ib 201). Im Übrigen stammt die hier nicht besonders integrierte Ehefrau ebenfalls aus der Türkei, weshalb ihr wohl nicht geradezu unzumutbar sein dürfte, ihrem Ehemann in das gemeinsame Heimatland zu folgen, falls sie die Trennung der Familiengemeinschaft vermeiden möchte.
3.2.4 Entgegen den Vorbringen in der Beschwerdeschrift steht der Entfernung des Beschwerdeführers unter diesen Umständen auch der in Art. 8 Ziff. 1 EMRK (und Art. 13 BV) verankerte Anspruch auf Achtung des Familien- und Privatlebens nicht entgegen. Zwar hat der Beschwerdeführer aufgrund der gelebten Beziehung zu seiner Ehefrau und seinen Kindern gestützt auf Art. 8 Ziff. 1 EMRK grundsätzlich einen Anspruch auf Aufenthalt in der Schweiz (vgl. BGE 135 I 143 E. 1.3.2 S. 146); im vorliegenden Fall ist aber ein Eingriff in das Recht auf Achtung des Privat- und Familienlebens gemäss Ziff. 2 dieser Bestimmung gerechtfertigt: Er stützt sich auf Art. 63 Abs. 1 lit. a i.V.m. Art. 62 lit. b AuG und damit auf eine gesetzliche Grundlage im Landesrecht. Er bezweckt die Aufrechterhaltung der hiesigen Ordnung sowie die Verhinderung weiterer strafbarer Handlungen und verfolgt öffentliche Interessen, die in Art. 8 Ziff. 2 EMRK ausdrücklich genannt sind; schliesslich erweist sich der Eingriff - wie dargelegt - auch als verhältnismässig (vgl. BGE 135 I 143 E. 2.1 S. 147 mit Hinweisen).
4. 4.1 Der Widerruf der Niederlassungsbewilligung des Beschwerdeführers erweist sich somit als bundesrechts- und konventionskonform. Dies führt zur Abweisung der Beschwerde.
4.2 Dem Ausgang des Verfahrens entsprechend wird der Beschwerdeführer grundsätzlich kostenpflichtig (Art. 65 f. BGG). Er hat um Gewährung der unentgeltlichen Rechtspflege und Verbeiständung ersucht (Art. 64 BGG). Diesem Gesuch kann jedoch nicht entsprochen werden: Der Beschwerdeführer ist zwar bedürftig. Aufgrund der umfassenden, sorgfältigen Begründung des vorinstanzlichen Entscheids unter Berücksichtigung der einschlägigen bundesgerichtlichen Rechtsprechung und in Anbetracht des Umstands, dass es sich nicht um einen Grenzfall handelt, erscheint das Rechtsbegehren jedoch als aussichtslos. Wegen offensichtlicher Uneinbringlichkeit ist ausnahmsweise auf die Erhebung von Gerichtskosten zu verzichten (vgl. Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird abgewiesen.
3. Es werden keine Kosten erhoben.
4. Dieses Urteil wird dem Beschwerdeführer, dem Migrationsamt, dem Sicherheits- und Justizdepartement des Kantons St. Gallen, dem Verwaltungsgericht des Kantons St. Gallen sowie dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 12. Dezember 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Die Gerichtsschreiberin: Dubs