Sachverhalt:
A. X._ (geb. 1980), türkischer Staatsangehöriger, reiste 1988 als Kind türkischer Asylbewerber in die Schweiz ein. 1989 wurde ihm eine Aufenthaltsbewilligung erteilt.
Mit Entscheid der Jugendanwaltschaft Unterrheintal-Oberrheintal-Werdenberg (ehemals Jugendanwaltschaft Unterrheintal-Oberrheintal-Sargans) vom 15. Oktober 1993 wurde er wegen Verkehrsdelikten und Nichtanzeigen eines Fundes zu einer Arbeitsleistung von drei halben Tagen verurteilt. Wegen versuchten Diebstahls und Sachbeschädigung verpflichtete ihn die Jugendanwaltschaft am 18. Oktober 1995 zu gemeinnütziger Arbeit an drei schulfreien Nachmittagen.
Mit Entscheid des Kreisgerichts Rheintal (ehemals Bezirksgericht Unterrheintal) vom 5. April 2000 wurde er wegen bandenmässigen Diebstahls, einfachen Diebstahls, mehrfacher Erpressung, mehrfachen Hausfriedensbruchs, mehrfacher Sachbeschädigung und geringfügiger Zechprellerei zu drei Monaten Einschliessung verurteilt, bedingt erlassen auf eine Probezeit von zwei Jahren mit Unterstellung unter Schutzaufsicht. Das Ausländeramt des Kantons St. Gallen verwarnte ihn darauf am 27. Juni 2000.
Mit Strafbescheid des Untersuchungsamtes Gossau vom 23. April 2004 wurde X._ wegen mehrfachen Diebstahls, mehrfacher Sachbeschädigung, mehrfachen Hausfriedensbruchs sowie wegen mehrfacher Übertretung des Betäubungsmittelgesetzes zu einer bedingten Gefängnisstrafe von 2 Monaten, unter Ansetzung einer Probezeit von drei Jahren, und einer Busse von Fr. 300.-- verurteilt.
In der Folge beging X._ unter anderem mehrere Raubüberfälle. Mit Urteil des Kreisgerichts Rheintal vom 18. Januar 2006 wurde er wegen versuchten qualifizierten Raubes, mehrfachen Raubes und Versuchs dazu sowie wegen weiterer Delikte zu einer Zuchthausstrafe von zwei Jahren und einem Monat verurteilt.
B. Am 19. Oktober 2006 heiratete X._ in A._ die österreichische Staatsangehörige türkischer Abstammung Y._ (geb. 25. Juni 1983). Nach der Heirat reiste die Ehegattin von Österreich in die Schweiz ein und erhielt eine Aufenthaltsbewilligung L-EG/EFTA.
Am 6. November 2006 trat X._ den Strafvollzug an. Mit Entscheid vom 30. Mai 2007 ordnete das Kreisgericht Rheintal eine vollzugsbegleitende ambulante Drogenentzugstherapie an.
C. Mit Verfügung vom 23. Mai 2007 verweigerte das Ausländeramt des Kantons St. Gallen die Verlängerung der Aufenthaltsbewilligung von X._. Den dagegen erhobenen Rekurs wies das Justiz-und Polizeidepartement des Kantons St. Gallen am 9. November 2007 ab. X._ beschwerte sich gegen den Departementsentscheid erfolglos beim Verwaltungsgericht des Kantons St. Gallen.
D. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 3. April 2008 beantragt X._, das Urteil des Verwaltungsgerichts des Kantons St. Gallen vom 12. Februar 2008 aufzuheben, dem Gesuch um Verlängerung seiner Aufenthaltsbewilligung stattzugeben bzw. den Kanton St. Gallen anzuweisen, die Aufenthaltsbewilligung zu verlängern. Zudem stellt er das Begehren, der Beschwerde die aufschiebende Wirkung zu erteilen, eventualiter sei ihm im Rahmen einer vorsorglichen Massnahme während der Dauer des Beschwerdeverfahrens der Aufenthalt in der Schweiz zu bewilligen.
Das Sicherheits- und Justizdepartement des Kantons St. Gallen sowie das Bundesamt für Migration schliessen auf Abweisung der Beschwerde. Das Verwaltungsgericht des Kantons St. Gallen beantragt, die Beschwerde abzuweisen, soweit darauf eingetreten werden könne.
E. Mit Verfügung vom 8. April 2008 hat der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts der Beschwerde die aufschiebende Wirkung zuerkannt.
Erwägungen:
1. 1.1 Nach Art. 83 lit. c Ziff. 2 BGG ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten auf dem Gebiet des Ausländerrechts ausgeschlossen gegen die Erteilung oder Verweigerung von Bewilligungen, auf die weder das Bundesrecht noch das Völkerrecht einen Anspruch einräumt.
Der Beschwerdeführer, dessen österreichische Ehegattin in der Schweiz über eine selbständige Aufenthaltsbewilligung EG/EFTA verfügt, besitzt nach Art. 7 lit. d des Abkommens vom 21. Juni 1999 zwischen der Schweizerischen Eidgenossenschaft einerseits und der Europäischen Gemeinschaft und ihren Mitgliedstaaten andererseits über die Freizügigkeit (Freizügigkeitsabkommen, FZA; SR 0.142.112.681) und Art. 3 Abs. 1 und 2 des Anhangs I zum Freizügigkeitsabkommen einen Rechtsanspruch auf eine Aufenthaltsbewilligung, weshalb die Beschwerde in öffentlich-rechtlichen Angelegenheiten zulässig ist.
1.2 Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (Art. 105 Abs. 1 BGG). Die Sachverhaltsfeststellung kann nur gerügt bzw. vom Bundesgericht von Amtes wegen berichtigt oder ergänzt werden, wenn sie offensichtlich unrichtig erfolgt ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 97 Abs. 1 BGG bzw. Art. 105 Abs. 2 BGG). Eine entsprechende Rüge, welche rechtsgenüglich substantiiert vorzubringen ist (Art. 42 Abs. 2 BGG), setzt zudem voraus, dass die Behebung des Mangels sich für den Ausgang des Verfahrens als entscheidend erweisen kann (Art. 97 Abs. 1 BGG). Neue Tatsachen und Beweismittel dürfen nur soweit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (Art. 99 Abs. 1 BGG).
1.3 Gemäss Art. 126 Abs. 1 des neuen Bundesgesetzes vom 16. Dezember 2005 über die Ausländerinnen und Ausländer (AuG; SR 142.20), welches am 1. Januar 2008 in Kraft getreten ist, bleibt für Gesuche, die vor diesem Zeitpunkt gestellt worden sind, das bisherige Recht anwendbar. Das muss auch gelten für Entscheide über die Verlängerung einer Aufenthaltsbewilligung, wenn sie, wie hier, noch unter der Herrschaft des bisherigen Rechts ergangen sind.
2. 2.1 Das dem Beschwerdeführer - wie dargelegt - nach Art. 3 Anhang I FZA zustehende Anwesenheitsrecht darf gemäss Art. 5 Abs. 1 Anhang I FZA "nur durch Massnahmen, die aus Gründen der öffentlichen Ordnung, Sicherheit und Gesundheit gerechtfertigt sind, eingeschränkt werden". Als derartige Massnahmen gelten alle Handlungen, die das Recht auf freie Einreise und Aufenthalt berühren, so dass auch das Nichtverlängern einer Aufenthaltsbewilligung erfasst wird (vgl. BGE 130 II 176 E. 3.1 S. 179 f. mit Hinweisen). Aufgrund des in Art. 2 FZA verankerten Diskriminierungsverbots darf der Beschwerdeführer dabei nicht schlechter behandelt werden als der ausländische Ehegatte einer Schweizer Bürgerin (vgl. BGE 130 II 113 E. 4 S. 116 ff.).
Gemäss dem somit analog anzuwendenden Art. 7 Abs. 1 des hier noch massgebenden (E. 1.3) Bundesgesetzes vom 26. März 1931 über Aufenthalt und Niederlassung der Ausländer hat der ausländische Ehegatte eines Unionsbürgers grundsätzlich Anspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung (erster Satz). Der Anspruch erlischt, wenn ein Ausweisungsgrund vorliegt (dritter Satz).
2.2 Der Ausländer kann aus der Schweiz unter anderem ausgewiesen werden, wenn er wegen eines Verbrechens oder Vergehens gerichtlich bestraft wurde (Art. 10 Abs. 1 lit. a ANAG). Die Ausweisung soll aber nur verfügt werden, wenn sie nach den gesamten Umständen "angemessen", d.h. verhältnismässig, erscheint (Art. 11 Abs. 3 ANAG). Hierbei sind vor allem die Schwere des Verschuldens des Ausländers, die Dauer seiner Anwesenheit in der Schweiz und die ihm und seiner Familie drohenden Nachteile zu berücksichtigen (Art. 16 Abs. 3 der Vollziehungsverordnung vom 1. März 1949 zum Bundesgesetz über Aufenthalt und Niederlassung der Ausländer).
Ob die Ausweisung gemäss den massgeblichen Bestimmungen verhältnismässig ist, ist eine Rechtsfrage, die vom Bundesgericht im vorliegenden Beschwerdeverfahren frei geprüft wird. Dem Bundesgericht ist es jedoch verwehrt, sein eigenes Ermessen - im Sinne einer Überprüfung der Zweckmässigkeit der Ausweisung - an die Stelle des Ermessens der zuständigen kantonalen Behörde zu setzen (BGE 129 II 193 E. 5.1 S. 208 mit Hinweis).
3. 3.1 Der Beschwerdeführer wurde wiederholt straffällig und zuletzt am 18. Januar 2006 zu einer Zuchthausstrafe von zwei Jahren und einem Monat verurteilt. Damit liegt ein Ausweisungsgrund nach Art. 10 Abs. 1 lit. a ANAG vor. Zu prüfen bleibt, ob die Nichtverlängerung der Aufenthaltsbewilligung verhältnismässig ist.
3.2 Ausgangspunkt und Massstab für die fremdenpolizeiliche Interessenabwägung ist die vom Strafrichter verhängte Freiheitsstrafe, d.h. das strafrechtliche Verschulden. Der Beschwerdeführer geriet schon während seiner Schulzeit (1993 und 1995) immer wieder mit dem Gesetz in Konflikt. Als Zwanzigjähriger wurde er wegen Diebstahls, Erpressung und anderen Vermögensdelikten bedingt zu einer Einschliessung von drei Monaten verurteilt. In der Folge verwarnte ihn das Ausländeramt am 27. Juni 2000 und verlängerte seine Aufenthaltsbewilligung nur auf Zusehen und unter der Bedingung künftigen Wohlverhaltens. Der Beschwerdeführer zog daraus keine Lehre und musste 2004 wegen mehrfachen Diebstahls, Sachbeschädigung und Übertretung gegen das Betäubungsmittelgesetz mit zwei Monaten Gefängnis (abermals bedingt) bestraft werden. Trotz dieser erneuten Verurteilung delinquierte der Beschwerdeführer weiter und beging mehrere Raubüberfälle. Er wurde deshalb am 18. Januar 2006 wegen versuchten qualifizierten Raubes, mehrfachen Raubes und Versuchs dazu sowie weiterer Delikte zu einer Zuchthausstrafe von zwei Jahren und einem Monat verurteilt. Wie aus den Akten hervorgeht, beging er diese Straftaten zur Finanzierung seiner Drogensucht, was vom Strafrichter berücksichtigt wurde. Dass sich der Beschwerdeführer zusammen mit einem Mittäter bewaffnet in ein Restaurant begeben und die Anwesenden mit vorgehaltener Waffe bzw. mit einem Schuss in die Decke bedroht hat, lässt eine erhebliche Gewaltbereitschaft erkennen. Weiter fällt auf, dass der Beschwerdeführer immer schwerere Delikte beging. Aus fremdenpolizeilicher Sicht wiegt sein Verschulden schwer.
Der Beschwerdeführer muss nach wie vor als drogenabhängig betrachtet werden. Das Kreisgericht Rheintal hat am 30. Mai 2007 eine vollzugsbegleitende Drogenentzugstherapie angeordnet und sich dafür auf einen ärztlichen Bericht des Psychiatrischen Zentrums Appenzell-Ausserrhoden sowie auf unmittelbare Äusserungen des Direktors der Strafanstalt und des Beschwerdeführers gestützt. Es ist nicht zu beanstanden, dass die Vorinstanz in Bezug auf die Drogenabhängigkeit des Beschwerdeführers von den dortigen Feststellungen ausging. Gegen die Überwindung der Drogensucht spricht auch, dass der Beschwerdeführer versuchte, Heroin in die Strafanstalt einzuschmuggeln. Es besteht folglich eine grosse Rückfallsgefahr, welche eine Entfernungsmassnahme auch unter dem Gesuchtswinkel der diesbezüglichen Schranke von Art. 5 Anhang I FZA zu rechtfertigen vermag. Dass sich der Beschwerdeführer im Strafvollzug arbeitsmässig bewährt hat, steht dieser Beurteilung nicht entgegen. Die Vorinstanz durfte daher darauf verzichten, einen zusätzlichen Bericht bei der Strafanstalt einzuholen. Das bisherige Verhalten des Beschwerdeführers lässt auch eine künftige Gefährdung der öffentlichen Ordnung und Sicherheit befürchten. Von einer willkürlichen Beweiswürdigung kann in diesem Zusammenhang nicht die Rede sein. Da der Beschwerdeführer bei den verübten Straftaten eine erhebliche Gewaltbereitschaft erkennen lassen und immer schwerere Delikte begangen hat, besteht ein gewichtiges öffentliches Interesse, ihn aus der Schweiz fernzuhalten.
3.3 Der Beschwerdeführer lebt seit dem achten Altersjahr in der Schweiz. Er ist somit kein Ausländer der "zweiten Generation".Trotz relativ langem Aufenthalt ist weder beruflich noch gesellschaftlich eine tiefgreifende Integration in der Schweiz ersichtlich. Eine solche wird auch vom Beschwerdeführer nicht geltend gemacht. Er bringt lediglich vor, seit der Haftentlassung gehe er einer geregelten Arbeit nach, wohne mit seiner Ehefrau zusammen und verfüge im Gegensatz zu früher über eine "gefestigte Lebenssituation". Dabei handelt es sich aber um nach dem angefochtenen Entscheid eingetretene (behauptete) Tatsachen; diese sind im vorliegenden Verfahren unbeachtlich (E. 1.2). Im Übrigen ist eine Ausweisung sogar bei Ausländern der "zweiten Generation", die hier geboren sind und ihr ganzes bisheriges Leben in der Schweiz verbracht haben, nicht ausgeschlossen (BGE 130 II 176 E. 4.4.2 S. 190 mit Hinweisen) und kommt unter anderem namentlich in Betracht, wenn der Ausländer Betäubungsmittel- und Gewaltdelikte und immer schwerere Straftaten begeht. Umso mehr gilt dies für Ausländer, die erst im Kindesalter in die Schweiz gekommen sind und sich nur wenig integriert haben. Der Beschwerdeführer ist bei seinen türkischen Eltern aufgewachsen, weshalb davon ausgegangen werden darf, dass er mit der türkischen Sprache und bis zu einem gewissen Grad auch mit der Kultur seines Heimatlandes vertraut ist. Zwar ist zu berücksichtigen, dass der Beschwerdeführer seit dem 19. Oktober 2006 mit einer österreichischen Staatsangehörigen verheiratet ist. Die nur zwei Wochen vor Strafantritt eingegangene Ehe vermag die vorliegende Interessenabwägung allerdings nur beschränkt zu beeinflussen. Im Zeitpunkt der Heirat hatte die Ehegattin von der deliktischen Vergangenheit des Beschwerdeführers Kenntnis und musste folglich damit rechnen, die Ehe mit dem Beschwerdeführer nicht in der Schweiz leben zu können. Die Ehegattin hält sich erst seit der Heirat in der Schweiz auf und ist hier somit nicht verwurzelt. Da sie selber türkischer Abstammung ist, erscheint eine Übersiedlung in die Türkei insofern nicht als unzumutbar. Der gegenteilige Standpunkt wird in der Beschwerdeschrift einzig mit dem wenig aussagekräftigen Hinweis begründet, dass die Ehefrau "seit Jahren" in Vorarlberg und in der Schweiz lebe und die Lebensumstände in der Türkei mit den hiesigen nicht vergleichbar seien. Daraus ergibt sich aber noch nicht, dass es der Ehegattin unzumutbar wäre, dem Beschwerdeführer in dessen Heimat zu folgen. Abgesehen davon steht es den Ehegatten grundsätzlich frei und wurde gemäss den Akten auch vom Beschwerdeführer erwogen, ins Heimatland der Ehefrau auszureisen, wo diese bis zur Heirat gelebt hat und wo Verhältnisse herrschen, die mit denjenigen in der Schweiz vergleichbar sind. Nachdem vorliegend nicht eine Ausweisung, sondern lediglich die Nichtverlängerung der Aufenthaltsbewilligung verfügt wurde, wird es dem Beschwerdeführer zudem möglich sein, die Beziehung zu seinen Familienangehörigen in der Schweiz besuchsweise weiterhin zu pflegen.
3.4 Aufgrund des Gesagten überwiegt das öffentliche Interesse an der Entfernung des Beschwerderführers aus der Schweiz dessen privates Interesse an einem weiteren Verbleib. Die verfügte Nichtverlängerung der Aufenthaltsbewilligung mag den Beschwerdeführer zwar hart treffen, doch erscheint diese Massnahme im Hinblick auf die wiederholte, immer schwerere Straffälligkeit und die erhebliche Rückfallgefahr nicht unverhältnismässig. Der angefochtene Entscheid hält damit vor dem Bundesrecht stand.
4. 4.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten erweist sich somit als unbegründet und ist abzuweisen.
4.2 Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer kostenpflichtig (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, dem Ausländeramt und dem Verwaltungsgericht des Kantons St. Gallen sowie dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 20. Oktober 2008
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Merkli Dubs