Sachverhalt:
A. Der aus Serbien stammende X._, geboren am 12. März 1989, reiste am 23. April 1999 im Rahmen des Familiennachzugs in die Schweiz ein und verfügt seither über eine Niederlassungsbewilligung.
Auf zwei Jugendstrafen in den Jahren 2004 und 2006 folgten in den Jahren 2009 und 2010 zwei Bussenverfügungen (Fr. 200.-- bzw. Fr. 300.--) wegen Überlassens eines Motorfahrzeugs an eine nicht führungsberechtigte Person. Das Kreisgericht St. Gallen verurteilte X._ am 21. Juni 2010 wegen Raubs und gewerbsmässigen betrügerischen Missbrauchs einer Datenverarbeitungsanlage zu einer bedingt vollziehbaren Freiheitsstrafe von 14 Monaten unter Anordnung der Bewährungshilfe sowie zu einer Busse von Fr. 600.--. Ferner wurde X._ am 25. Oktober 2010 zu einer Busse von Fr. 60.-- wegen Widerhandlung gegen das Personenbeförderungsgesetz verurteilt.
Nach Gewährung des rechtlichen Gehörs am 2. August 2010 widerrief das Migrationsamt des Kantons St. Gallen (nachfolgend: Migrationsamt) am 12. April 2011 die Niederlassungsbewilligung und wies X._ aus der Schweiz weg.
B. Den dagegen erhobenen Rekurs wies das Sicherheits- und Justizdepartement des Kantons St. Gallen (nachfolgend: Sicherheits- und Justizdepartement) am 7. Dezember 2011 ab. Das Verwaltungsgericht des Kantons St. Gallen (nachfolgend: Verwaltungsgericht) bestätigte diesen Entscheid mit Urteil vom 3. Juli 2012.
C. Am 11. September 2012 erhebt X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten und subsidiäre Verfassungsbeschwerde beim Bundesgericht mit den (sinngemässen) Anträgen, das angefochtene Urteil aufzuheben, eventuell die Sache zur erneuten Abklärung des Sachverhalts und zu neuer Entscheidung an das Migrationsamt zurückzuweisen. In verfahrensrechtlicher Hinsicht beantragt X._ die Gewährung der unentgeltlichen Rechtspflege in Form von Kostenbefreiung und Beiordnung seines Rechtsvertreters als unentgeltlichen Rechtsbeistand.
Das Verwaltungsgericht, das Sicherheits- und Justizdepartement und das Bundesamt für Migration schliessen auf Abweisung der Beschwerde. Das Migrationsamt lässt sich nicht vernehmen.
Erwägungen:
1. 1.1 Angefochten ist der letztinstanzliche, verfahrensabschliessende Entscheid eines kantonalen Gerichts auf dem Gebiet des öffentlichen Rechts, welcher grundsätzlich der Beschwerde in öffentlich-rechtlichen Angelegenheiten unterliegt (vgl. Art. 86 Abs. 1 lit. d BGG, Art. 90 BGG, Art. 82 lit. a BGG). Gegen Entscheide über den Widerruf einer Niederlassungsbewilligung ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten zulässig, weil grundsätzlich ein Anspruch auf das Fortbestehen dieser Bewilligung gegeben ist (BGE 135 II 1 E. 1.2.1 S. 4). Ob der Anspruch auf Weiterbestehen der Niederlassungsbewilligung im konkreten Fall zu bejahen ist, bildet Gegenstand der materiellen Beurteilung (BGE 137 I 284 E. 1.3 S. 287). Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist somit zulässig. Demgemäss bleibt für die subsidiäre Verfassungsbeschwerde kein Raum, weshalb darauf nicht einzutreten ist (vgl. Art. 113 BGG; BGE 137 I 284 E. 1.3 S. 287).
1.2 Der Beschwerdeführer ist durch den angefochtenen Entscheid besonders berührt und hat an dessen Aufhebung ein schutzwürdiges Interesse, weshalb er gemäss Art. 83 Abs. 1 BGG zur Erhebung der Beschwerde legitimiert ist.
1.3 Die übrigen Sachurteilsvoraussetzungen sind ebenfalls erfüllt, so dass auf die Beschwerde in öffentlich-rechtlichen Angelegenheiten einzutreten ist.
2. 2.1 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 und Art. 96 BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden (BGE 133 II 249 E. 1.4.1 S. 254). In Bezug auf die Verletzung von Grundrechten gilt eine qualifizierte Rüge- und Substanziierungspflicht (Art. 106 Abs. 2 BGG; BGE 133 II 249 E. 1.4.2 S. 254).
2.2 Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinn von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). Die beschwerdeführende Partei kann die Feststellung des Sachverhalts unter den gleichen Voraussetzungen beanstanden, wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Eine entsprechende Rüge ist rechtsgenüglich substanziiert vorzubringen (vgl. BGE 133 II 249 E. 1.4.3 S. 254).
2.3 Neue Tatsachen und Beweismittel dürfen nur so weit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (Art. 99 Abs. 1 BGG).
Tatsachen oder Beweismittel, welche sich auf das vorinstanzliche Prozessthema beziehen, sich jedoch erst nach dem angefochtenen Entscheid ereignet haben oder entstanden sind, können von vornherein nicht durch das angefochtene Urteil veranlasst worden sein (vgl. Urteil 2C_833/2011 vom 6. Juni 2012 E. 1.2 mit Hinweis). Diese so genannten "echten Noven" sind im bundesgerichtlichen Verfahren in jedem Fall unzulässig (BGE 133 IV 342 E. 2.1 S. 344).
Art. 99 Abs. 1 BGG zielt auf Tatsachen ab, die erst durch das angefochtene Urteil rechtserheblich werden. So kann sich die beschwerdeführende Partei vor Bundesgericht auf Tatsachen stützen, die nicht Gegenstand des vorinstanzlichen Verfahrens gebildet hatten, wenn die Vorinstanz ein neues rechtliches Argument anführt, mit dem die Partei zuvor nicht konfrontiert worden war (vgl. Urteil 5A_115/2012 vom 20. April 2012 E. 4.4.2). Unzulässig sind hingegen neue Tatsachen, die bereits der Vorinstanz hätten vorgelegt werden können (BGE 136 III 123 E. 4.4.3 S. 129).
3. Vorab sind die formellen Rügen des Beschwerdeführers zu behandeln (vgl. BGE 138 I 232 E. 5.1 S. 237).
3.1 Der Beschwerdeführer macht geltend, die Vorinstanz habe seinen Anspruch auf rechtliches Gehör verletzt. Sie habe zu Unrecht den Mangel, dass das Migrationsamt ihn zu den Akten der Bewährungshilfe nicht vernommen habe, als im Rekursverfahren vor dem Sicherheits- und Justizdepartement geheilt betrachtet.
Der Beschwerdeführer legt nicht dar, gestützt auf welche kantonale Norm ihm ein Recht auf mündliche Anhörung zustehen soll. Aus Art. 29 Abs. 2 BV fliesst kein Recht auf mündliche Anhörung; diese Minimalgarantie umfasst lediglich das Recht auf vorgängige (schriftliche) Stellungnahme (BGE 134 I 140 E. 5.3 S. 148; 130 II 425 E. 2.1 S. 428). Sofern dem Beschwerdeführer im erstinstanzlichen Verfahren keine Gelegenheit zur Stellungnahme zu den fraglichen Akten eingeräumt worden war, konnte dieser Mangel im Verfahren vor dem Sicherheits- und Justizdepartement geheilt werden (vgl. BGE 133 I 201 E. 2.2 S. 204). Die Vorinstanz hat eine Verletzung des rechtlichen Gehörs im Ergebnis zu Recht verneint.
3.2 Der Beschwerdeführer rügt, die Vorinstanz habe weder die Stellungnahme des Psychiatrischen Zentrums St. Gallen vom 23. Januar 2012 noch ein (zu erstellendes) Sachverständigengutachten von Dr. Y._ als Beweismittel zugelassen. Aus der Beschwerdeschrift geht nicht eindeutig hervor, welcher Sachverhalt bewiesen werden sollte.
3.2.1 Die Stellungnahme des Psychiatrischen Zentrums St. Gallen vom 23. Januar 2012 wurde vom Beschwerdeführer selbst veranlasst und besteht in der schriftlichen Beantwortung eines vom Rechtsvertreter des Beschwerdeführers vorgelegten Fragenkatalogs.
Entgegen dem Vorbringen des Beschwerdeführers hat die Vorinstanz die Stellungnahme des Psychiatrischen Zentrums St. Gallen vom 23. Januar 2012 durchaus gewürdigt. Gemäss den ärztlichen Angaben konnte diese Stellungnahme allerdings nur als Beweismittel für den (damals) aktuellen Gesundheitszustand des Beschwerdeführers dienen; als solches hat die Vorinstanz sie denn auch entgegengenommen. Soweit der Beschwerdeführer mit der Stellungnahme einen Sachverhalt beweisen wollte, der die in den Jahren 2007 und 2009 begangenen Straftaten betrifft, war diese als Beweismittel untauglich. Eine Verletzung des rechtlichen Gehörs liegt nicht vor.
3.2.2 Auch was die Erstellung eines Sachverständigengutachtens betrifft, hat die Vorinstanz das rechtliche Gehör des Beschwerdeführers nicht verletzt. Sie weist zu Recht darauf hin, dass die Frage des strafrechtlichen Verschuldens (welches nach Ansicht des Beschwerdeführers durch den Gesundheitszustand beeinflusst sein könnte) bereits durch das Strafgericht abgehandelt worden sei und durch die Migrationsbehörden nicht relativiert werden dürfe (vgl. Urteil 2C_66/2009 vom 1. Mai 2009 E. 3.2 mit Hinweisen). Im Urteil des Kreisgerichts St. Gallen vom 21. Juni 2010, auf dessen Begründung der Beschwerdeführer schriftlich verzichtet hat, wird bei der Strafzumessung eine psychische Erkrankung des Beschwerdeführers nicht erwähnt. Weder in den Strafakten noch in den Akten des Migrationsamts finden sich Hinweise darauf, dass die Erkrankung des Beschwerdeführers bei der Begehung der Straftaten am 12. Oktober 2007 (Raub) bzw. zwischen dem 31. Juli 2009 und 14. August 2009 (gewerbsmässiger betrügerischer Missbrauch einer Datenverarbeitungsanlage) bereits bestanden hat. Soweit der Beschwerdeführer geltend macht, seine Erkrankung sei die Ursache für seine Delinquenz, was mit einem Gutachten bewiesen werden könnte, hat ihm die Vorinstanz zu Recht entgegengehalten, dass die Diagnose "Verdacht auf Paranoide Schizophrenie, Verlauf unklar, Beobachtungszeitraum weniger als ein Jahr (F20.09)" erst im Austrittsbericht der Psychiatrischen Klinik Wil vom 2. November 2010, also über ein Jahr nach der letzten verfahrensauslösenden Delinquenz, gestellt wurde. Anlässlich der Einvernahme durch den Untersuchungsrichter am 6. Dezember 2010 gab der Beschwerdeführer an, er sei vor der Einlieferung in die Psychiatrische Klinik Wil am 7. September 2010 seit sechs Jahren nicht mehr bei seinem Hausarzt gewesen. Er habe mit Ärzten eben nicht viel zu tun.
Damit steht fest, dass die psychische Krankheit des Beschwerdeführers erst im Herbst 2010, lange Zeit nach der Begehung der Straftaten, manifest geworden ist. Ob und wie lange die Krankheit allenfalls vorbestanden hat, kann dem Austrittsbericht der Psychiatrischen Klinik Wil vom 2. November 2010 ebensowenig entnommen werden wie der Stellungnahme des Psychiatrischen Zentrums St. Gallen vom 23. Januar 2012. Dort wird auf die Frage hin, ob der Beschwerdeführer bedingt durch die Krankheit straffällig geworden sein könnte, ausdrücklich gesagt, dies könne nicht beurteilt werden.
Angesichts der dargelegten Umstände, aus denen sich ergibt, dass keine Anhaltspunkte für eine bereits seit längerer Zeit bestehende Krankheit vorlagen, hat die Vorinstanz die Notwendigkeit eines Gutachtens zu Recht verneint.
3.3 Der Beschwerdeführer moniert, die Vorinstanz habe sein Recht auf ein faires Verfahren gemäss Art. 29 BV und Art. 6 EMRK verletzt, indem sie ihn, den Kranken, in diskriminierender Weise wie einen Gesunden beurteilt habe.
Vorab ist darauf hinzuweisen, dass Art. 6 Ziff. 1 EMRK im Verfahren betreffend den Widerruf der Niederlassungsbewilligung nicht zur Anwendung kommt, weil darin nicht über "zivilrechtliche Ansprüche" im Sinn dieser Konventionsnorm befunden wird (Nichtzulassungsentscheid des EGMR Ilic gegen Kroatien vom 19. September 2000 [Nr. 42389/98]).
Die Vorinstanz hat die Erkrankung des Beschwerdeführers, welche erstmals im Austrittsbericht der Psychiatrischen Klinik Wil vom 2. November 2011 dokumentiert ist, in der Weise gewürdigt, die sie für rechtserheblich hielt. Inwiefern dadurch das Recht auf ein faires Verfahren verletzt worden wäre, ist nicht ersichtlich. Auf die rein appellatorische Rüge der unzulässigen Diskriminierung ist in Ermangelung einer sachbezogenen Begründung nicht einzugehen (vgl. E. 2.1 hiervor).
4. Der Beschwerdeführer rügt eine unrichtige Feststellung des rechtserheblichen Sachverhalts.
4.1 Die Vorinstanz habe das Krankheitsbild und die Prognose des Beschwerdeführers falsch dargestellt, indem sie medizinische Sachverhalte undifferenziert gewürdigt habe. Aus dem Austrittsbericht der Psychiatrischen Klinik Wil vom 2. November 2010 habe sie zu Unrecht geschlossen, dass ihm - dem Beschwerdeführer - keine günstige Prognose gestellt werden könne. Aus der Stellungnahme des Psychiatrischen Zentrums St. Gallen vom 23. Januar 2012 gehe hervor, dass er regelmässige Therapie in Anspruch nehme, sein Gesundheitszustand stabil sei, er eine Krankheitseinsicht habe und die Erkrankung schubweise auftrete.
4.2 Die Vorinstanz erwog, der Beschwerdeführer habe nicht mit der Bewährungshilfe kooperiert. Auf zwei Aufforderungen zur Kontaktaufnahme habe er nicht reagiert, weshalb er am 25. August 2010 gemahnt worden sei. Nach Angabe der Bewährungshilfe habe er bereits während der Untersuchungshaft verlauten lassen, er benötige keine Bewährungshilfe, und habe auch keine Reue bezüglich der begangenen Straftaten gezeigt. Erst auf Druck des Untersuchungsrichters hin habe er einen Besprechungstermin mit der Bewährungshilfe vereinbart. Am 7. September 2010 habe der Amtsarzt den Beschwerdeführer wegen Fremd- und Eigengefährdung in die Psychiatrische Klinik Wil einweisen müssen, wo dieser bis am 26. Oktober 2010 hospitalisiert gewesen sei. Gemäss Interventionsrapport der Stadtpolizei vom 23. Juni 2011 habe sich der Beschwerdeführer äusserst renitent verhalten, wenngleich er eingeräumt habe, an psychischen Problemen zu leiden und in diesem Zusammenhang Medikamente einzunehmen. Aus der Stellungnahme des Psychiatrischen Zentrums St. Gallen vom 23. Januar 2012 könne nicht geschlossen werden, dass die Gefahr, die vom Beschwerdeführer ausgehe, gebannt sei. Vielmehr sei aufgrund der gesamten Umstände damit zu rechnen, dass dessen Verhalten auch in Zukunft zu Beanstandungen Anlass geben werde.
Es ist nicht ersichtlich, inwiefern diese Ausführungen auf offensichtlich unrichtigen Tatsachen basieren würden. Die Vorinstanz ist in Anbetracht der gesamten Umstände, welche nach der Verurteilung vom 21. Juni 2010 eingetreten sind, zum Schluss gekommen, dass eine Rückfallgefahr besteht. Sie hat berücksichtigt, dass der Beschwerdeführer gemäss Stellungnahme des Psychiatrischen Zentrums St. Gallen vom 23. Januar 2012 mittlerweile eine Krankheitseinsicht hatte. Wenn die Vorinstanz aus dem Sachverhalt Schlüsse zu Ungunsten des Beschwerdeführers gezogen hat, betrifft dies die rechtliche Würdigung der Tatsachen, nicht die Ermittlung des Sachverhalts.
4.3 Der Beschwerdeführer moniert, die Vorinstanz habe Art. 97 BGG verletzt, indem sie die Dauerhaftigkeit und Ernsthaftigkeit der Beziehung zu Z._ verneint habe. Der Vorinstanz sei bekannt, dass er - der Beschwerdeführer - bei Frau Z._ wohne. Er habe im Gesuch um Vorbereitung der Eheschliessung als "Wohnsitz nach der Eheschliessung" die Adresse seiner Verlobten angegeben und nicht mehr diejenige, an welcher er jetzt gemeldet sei (...strasse ... in A._/SG). Ferner werde er den Familiennamen seiner Verlobten annehmen.
Die Frage, ob die Beziehung des Beschwerdeführers mit Z._ unter den Schutz von Art. 8 Ziff. 1 EMRK fällt, ist eine Rechtsfrage, welche das Bundesgericht frei prüft. In Bezug auf die Feststellung des Sachverhalts bringt der Beschwerdeführer im bundesgerichtlichen Verfahren erstmals vor, er wohne bei Z._; an anderer Stelle in der Beschwerdeschrift wird gesagt, er wolle bei ihr wohnen. Echte Noven sind vor Bundesgericht grundsätzlich unzulässig; unechte dann, wenn sie bereits im vorinstanzlichen Verfahren hätten vorgebracht werden können (vgl. E. 2.3 hiervor). Nach den verbindlichen Feststellungen der Vorinstanz wohnte der Beschwerdeführer im Zeitpunkt des angefochtenen Urteils an der ...strasse ... in A._/SG. Die Vorinstanz durfte somit ohne Willkür annehmen, der Beschwerdeführer wohne nicht mit Z._ zusammen, zumal ein Konkubinat nicht geltend gemacht wurde. Das Gesuch um Vorbereitung der Eheschliessung vom 7. Januar 2012, welches der Beschwerdeführer vor Bundesgericht wiederum vorlegt, war im Zeitpunkt des angefochtenen Urteils nicht beim Zivilstandsamt eingereicht worden. Ausgehend von dieser Sachlage wird zu entscheiden sein, ob sich der Beschwerdeführer im Zusammenhang mit der Beziehung zu Z._ auf Art. 8 Ziff. 1 EMRK berufen kann (vgl. E. 6.3 hiernach).
5. 5.1 Gemäss Art. 63 Abs. 1 lit. a AuG in Verbindung mit Art. 62 lit. b AuG kann die Niederlassungsbewilligung widerrufen werden, wenn die ausländische Person zu einer längerfristigen Freiheitsstrafe verurteilt wurde oder gegen sie eine strafrechtliche Massnahme im Sinn von Art. 64 oder Art. 61 StGB angeordnet wurde. Eine längerfristige Freiheitsstrafe im Sinn von Art. 62 lit. b AuG liegt vor, wenn eine Freiheitsstrafe von mehr als einem Jahr ausgesprochen wurde (BGE 135 II 377 E. 4.2). Nachdem der Beschwerdeführer zu einer Freiheitsstrafe von 14 Monaten verurteilt worden war, ist der Widerrufsgrund von Art. 62 lit. b AuG in der ersten Variante erfüllt.
5.2 In jedem Fall rechtfertigt sich der Widerruf einer Niederlassungsbewilligung nur, wenn die im Einzelfall vorzunehmende Interessenabwägung die Massnahme verhältnismässig erscheinen lässt. Dabei sind namentlich die Schwere des Verschuldens, der Grad der Integration und die der betroffenen Person drohenden Nachteile zu berücksichtigen (BGE 135 II 377 E. 4.3 S. 381; vgl. auch Art. 96 Abs. 1 AuG). Je länger eine ausländische Person in der Schweiz gelebt hat, desto strengere Anforderungen sind grundsätzlich an Fernhaltemassnahmen zu stellen. Aber selbst bei einer ausländischen Person der zweiten Generation sind fremdenpolizeiliche Massnahmen nicht ausgeschlossen (BGE 130 II 176 E. 4.4.2 S. 190); bei schweren Straftaten, insbesondere bei Gewalt-, Sexual- und schweren Betäubungsmitteldelikten, und erst recht bei wiederholter Delinquenz, besteht hieran ein wesentliches öffentliches Interesse (BGE 122 II 433 E. 2c S. 436; vgl. auch Urteile 2C_28/2012 vom 18. Juli 2012 E. 3.2; 2C_562/2011 vom 21. November 2011 E. 3.3). Ausschlaggebend ist die Verhältnismässigkeit der Massnahme im Einzelfall, die praxisgemäss gestützt auf die gesamten wesentlichen Umstände geprüft werden muss (BGE 135 II 110 E. 2.1 S. 112).
Hat eine ausländische Person nahe Verwandte mit einem gefestigten Anwesenheitsrecht in der Schweiz und wird die familiäre Beziehung tatsächlich gelebt, kann der Bewilligungswiderruf Art. 8 Ziff. 1 EMRK verletzen, indem der ausländischen Person die Anwesenheit in der Schweiz untersagt und damit ihr Familienleben vereitelt wird (BGE 130 II 281 E. 3.1 S. 285 mit Hinweisen). Der Eingriff ist zulässig, wenn er verhältnismässig im Sinn von Art. 8 Ziff. 2 EMRK ist.
6. Der Beschwerdeführer macht geltend, der Widerruf der Niederlassungsbewilligung sei unverhältnismässig.
6.1 Ausgangspunkt und Massstab für die Schwere des Verschuldens ist die vom Strafgericht ausgesprochene Strafe (BGE 129 II 215 E. 3.1 S. 216). Das Kreisgericht St. Gallen äusserte sich im Entscheid vom 21. Juni 2010 nicht explizit zum Verschulden des Beschwerdeführers. Es wertete die Delinquenz des Beschwerdeführers während des laufenden Strafverfahrens straferhöhend, das Geständnis dagegen strafmindernd.
6.1.1 Gemäss dem gerichtlich festgestellten Tathergang kam dem Beschwerdeführer bei dem mittäterschaftlich begangenen Raub nicht die Hauptrolle zu. Die Initiative ging von seinem Komplizen aus, wobei der Beschwerdeführer nach kurzem Widerstreben einwilligte. Während der Tatbegehung versuchte er, seinen Mittäter an der Fortsetzung der strafbaren Handlungen zu hindern, konnte sich aber nicht durchsetzen. Obwohl nicht der Beschwerdeführer, sondern sein Mittäter die Opfer mit dem Messer bedrohte und einem von ihnen einen Faustschlag ins Gesicht versetzte, liegt ein in Mittäterschaft (und nicht Gehilfenschaft) begangener Raub vor. Der Beschwerdeführer und sein Mittäter erbeuteten insgesamt Fr. 265.--, wovon der Beschwerdeführer Fr. 100.-- erhielt.
Der Raub gemäss Art. 140 Ziff. 1 Abs. 1 StGB stellt eine der in Art. 121 Abs. 3 lit. a BV genannten Anlasstaten dar, deren Begehung dazu führen soll, dass die ausländische Person "unabhängig von ihrem ausländerrechtlichen Status ihr Aufenthaltsrecht sowie alle Rechtsansprüche auf Aufenthalt in der Schweiz" verliert. Dieser Absicht des Verfassungsgebers trägt das Bundesgericht bei der Auslegung des geltenden Ausländergesetzes insoweit Rechnung, als dies zu keinem Widerspruch mit übergeordnetem Recht führt und mit gleichwertigen Verfassungsbestimmungen, namentlich dem Verhältnismässigkeitsprinzip, im Einklang steht (praktische Konkordanz, vgl. Urteil 2C_828/2011 vom 12. Oktober 2012 E. 4.2, E. 4.3 und E. 5.3, zur Publikation vorgesehen).
6.1.2 Beim Delikt des gewerbsmässigen betrügerischen Missbrauchs einer Datenverarbeitungsanlage legte der Beschwerdeführer beachtliche kriminelle Energie an den Tag, indem er auf Kosten einer Drittperson Treibstoff im Wert von insgesamt Fr. 6'757.60 an Tankstellen bezog und teilweise weiterverkaufte. Sein Gewinn betrug zwischen Fr. 1'500.-- und Fr. 2'000.--. Indessen handelt es sich bei diesem Vermögensdelikt weder um eine der in Art. 121 Abs. 3 lit. a BV genannten Anlasstaten noch um eine schwere Straftat im Sinn der ausländerrechtlichen Rechtsprechung (vgl. E. 5.2 hiervor). Negativ wirkt sich jedoch der Umstand aus, dass der Beschwerdeführer bereits mehrmals straffällig geworden war und ein Strafverfahren gegen ihn lief.
6.2 Vor diesem Hintergrund ist mit Blick auf das Strafmass von 14 Monaten von einem mittelschweren ausländerrechtlichen Verschulden auszugehen. Demnach besteht ein gewichtiges sicherheitspolizeiliches Interesse, die Niederlassungsbewilligung zu widerrufen. Zu prüfen bleibt, ob die privaten Interessen des Beschwerdeführers am Verbleib in der Schweiz das öffentliche Interesse an seiner Wegweisung überwiegen.
6.3 Der Beschwerdeführer beruft sich in Bezug auf die Beziehung zu seiner Verlobten, Z._, auf Art. 8 Ziff. 1 EMRK.
Nach der neueren Rechtsprechung des EGMR kann der Begriff "Familienleben" das Zusammenleben ausserhalb der Ehe umfassen, wobei unter anderem zu berücksichtigen ist, ob und wie lange die Partner zusammenleben und ob sie gemeinsame Kinder haben (Urteil des EGMR Serife gegen Türkei vom 20. Januar 2009 [Nr. 3976/05] § 25-27). Das Bundesgericht hat für die Berufung auf Art. 8 Ziff. 1 EMRK in diesem Zusammenhang stets vorausgesetzt, dass die Partner zusammenleben, wobei eine Dauer von eineinhalb Jahren grundsätzlich nicht genügt (vgl. Urteile 2C_97/2010 vom 4. November 2010 E. 3.1; 2C_225/2010 vom 4. Oktober 2010 E. 2.2). Lebt das Paar nicht seit längerer Zeit in einer echten eheähnlichen Gemeinschaft, sind konkrete Heiratspläne notwendig, welche sich beispielsweise in der Bekanntmachung der Eheschliessung äussern können (vgl. zitierte Urteile 2C_97/2010 vom 4. November 2010 E. 3.1; 2C_225/2010 vom 4. Oktober 2010 E. 2.2).
Im vorliegenden Fall ist keine dieser Voraussetzungen erfüllt: Weder lebten der Beschwerdeführer und seine Verlobte im massgeblichen Zeitpunkt seit längerer Zeit zusammen, noch haben sie ihr Gesuch um Vorbereitung der Eheschliessung vom 7. Januar 2012 beim zuständigen Zivilstandsamt eingereicht. Die Begründung des Beschwerdeführers, er habe die notwendige Ledigkeitsbescheinigung aus Serbien noch nicht erhalten, ändert nichts daran, dass konkrete Hinweise auf eine baldige Eheschliessung fehlen. Die Beziehung zwischen ihm und Z._ fällt somit nicht in den Schutzbereich von Art. 8 Ziff. 1 EMRK.
6.4 Der Beschwerdeführer bringt zudem vor, seine ganze Verwandtschaft lebe in A._/SG und Umgebung; er finde in der Familie eine wichtige Stütze. Sein Recht auf Achtung des Familienlebens sei durch die Verweigerung des weiteren Aufenthalts in der Schweiz verletzt.
Soweit der Beschwerdeführer sich in Bezug auf seine Eltern oder Verwandten auf Art. 8 Ziff. 1 EMRK beruft, ist darauf hinzuweisen, dass diese Garantie sich in erster Linie auf die Kernfamilie, d.h. die Gemeinschaft der Ehegatten mit ihren minderjährigen Kindern beschränkt (BGE 135 I 143 E. 1.3.2 S. 146 mit Hinweisen). Neben der eigentlichen Kernfamilie werden auch weitere familiäre Verhältnisse erfasst, sofern eine genügend nahe, echte und tatsächlich gelebte Beziehung besteht. Hinweise für solche Beziehungen sind das Zusammenleben in einem gemeinsamen Haushalt, eine finanzielle Abhängigkeit, speziell enge familiäre Bande, regelmässige Kontakte oder die Übernahme von Verantwortung für eine andere Person. Bei hinreichender Intensität sind auch Beziehungen zwischen nahen Verwandten wie Geschwistern oder Tanten und Nichten wesentlich (BGE 135 I 143 E. 3.1 S. 148). Der (ledige und kinderlose) Beschwerdeführer legt nicht dar, inwiefern dieser erweiterte Familienbegriff auf ihn und seine Eltern oder Verwandten anwendbar sein soll. Die Anrufung von Art. 8 Ziff. 1 EMRK ist daher auch in dieser Hinsicht unbehelflich.
6.5 Der Beschwerdeführer macht geltend, seine Legalprognose sei günstig, da er eine Krankheitseinsicht habe.
6.5.1 Die Vorinstanz hat die (in der Stellungnahme des Psychiatrischen Zentrums St. Gallen vom 23. Januar 2012 vorsichtig formulierte) Krankheitseinsicht des Beschwerdeführers zu Recht nicht genügen lassen, um eine Rückfallgefahr auszuschliessen. Die Compliance hinsichtlich der Medikamenteneinnahme ist mit der (ohnehin zögerlichen) Krankheitseinsicht nicht gewährleistet, so dass in Anbetracht des schubweisen Auftretens der Krankheit ein konkretes Risiko bejaht werden muss.
6.5.2 Auch die Tatsache, dass der Beschwerdeführer zunächst keine Reue zeigte und bereits am 25. Oktober 2010 wieder gebüsst werden musste, weil er am 12. Mai 2010 ein Fahrzeug ohne gültigen Fahrausweis benutzt hatte, lässt eine Rückfallgefahr als realistisch erscheinen.
6.5.3 Gegen eine günstige Legalprognose spricht sodann der Umstand, dass der Beschwerdeführer nicht mit der Bewährungshilfe kooperierte. Nachdem er auf insgesamt vier schriftliche Aufforderungen zur Kontaktaufnahme nicht reagiert hatte, wurde er vom Untersuchungsrichteramt St. Gallen am 6. Dezember 2010 im strafrechtlichen Widerrufsverfahren als Auskunftsperson vernommen. Auf die Frage des Untersuchungsrichters, ob ihm das Urteil des Kreisgerichts St. Gallen vom 21. Juni 2010 bekannt sei, antwortete der Beschwerdeführer: "Ja, wegen Benzintanken, ja." Als ihm der Untersuchungsrichter vorhielt, er habe eine Bewährungsstrafe erhalten, nachdem er gerichtlich verurteilt worden sei, und nun mache er bei der Bewährungshilfe nicht mit, sagte der Beschwerdeführer, er wisse, dass er vor Gericht gewesen sei und Bewährung habe, aber das Weitere habe er nicht mehr angeschaut. Er habe nicht gewusst, dass er bei der Bewährungshilfe mitmachen müsse.
Die Äusserungen des Beschwerdeführers anlässlich der Einvernahme vom 6. Dezember 2010 zeigen, dass er sich weder über die Tragweite seiner Delikte noch über seine Versäumnisse bei der Kooperation mit der Bewährungshilfe Rechenschaft zu geben bereit war. Erst auf die eindringliche Warnung des Untersuchungsrichters hin, er müsse mit dem Vollzug der Freiheitsstrafe von 14 Monaten rechnen, wenn er weiterhin untätig bleibe, setzte sich der Beschwerdeführer mit der Bewährungshilfe in Verbindung.
6.5.4 Unter den dargelegten Umständen hat die Vorinstanz eine Rückfallgefahr zu Recht bejaht.
6.6 Der Beschwerdeführer ist relativ jung in die Schweiz gekommen, hat aber immerhin zehn Jahre in Serbien verbracht, davon drei Schuljahre. Die Lebensumstände in seiner Heimat sind ihm nicht völlig fremd, so dass ihm, der im Zeitpunkt des angefochtenen Urteils erst 23 Jahre alt war, die Wiedereingewöhnung nicht allzu schwer fallen dürfte. In diesem Zusammenhang ist darauf hinzuweisen, dass das vor Bundesgericht erstmals geäusserte (und daher unzulässige) Vorbringen des Beschwerdeführers, er spreche nicht Serbisch, nicht glaubwürdig erscheint, zumal seine Eltern, zu denen er nach eigenen Angaben Kontakt pflegt, ebenfalls aus Serbien stammen. Es ist davon auszugehen, dass der Beschwerdeführer die serbische Sprache (zumindest mündlich) beherrscht.
6.7 Der Beschwerdeführer macht geltend, er sei gut integriert. Es trifft zu, dass die Verlobung mit einer Schweizerin ein Indiz für eine geglückte soziale Integration darstellt. Indessen konnte ihn seine Verlobte nicht von der Begehung mehrerer Straftaten abhalten. Zudem muss die berufliche Integration des Beschwerdeführers als mangelhaft bezeichnet werden: Nach dem Besuch der obligatorischen Schulen brach er eine Lehre zum Dachdecker sowie eine Anlehre zum Polymechaniker/Mechaniker ab. Bis zum Zeitpunkt des angefochtenen Urteils ging er keiner geregelten Erwerbstätigkeit nach; seine Arbeitstätigkeit beschränkte sich auf einige Temporäranstellungen.
6.8 Schliesslich kann der Beschwerdeführer auch aus der (im Austrittsbericht der Psychiatrischen Klinik Wil vom 2. November 2010 vorläufig gestellten) Diagnose der Paranoiden Schizophrenie nichts zu seinen Gunsten ableiten. Die medikamentöse und ambulante Behandlung dieser Krankheit ist in Serbien ohne Weiteres gewährleistet.
6.9 In Würdigung all dieser Umstände ist es dem ledigen und kinderlosen Beschwerdeführer zuzumuten, nach Serbien zurückzukehren. Seine privaten Interessen am Verbleib in der Schweiz vermögen das öffentliche Interesse an seiner Wegweisung nicht aufzuwiegen. Zudem dürfen generalpräventive Gesichtspunkte bei ausländischen Personen, welche sich nicht auf das FZA (SR 0.142.112.681) berufen können, im Rahmen der Interessenabwägung berücksichtigt werden (Urteil 2C_679/2011 vom 21. Februar 2012 E. 3.1). Der angefochtene Entscheid erweist sich somit als verhältnismässig im Sinn von Art. 96 AuG.
7. Nach dem Gesagten ist die Beschwerde unbegründet und daher abzuweisen, soweit darauf einzutreten ist.
7.1 Gemäss Art. 64 Abs. 1 BGG befreit das Bundesgericht eine Partei, die nicht über die erforderlichen Mittel verfügt, auf Antrag von der Bezahlung der Gerichtskosten und von der Sicherstellung der Parteientschädigung, sofern ihr Rechtsbegehren nicht aussichtslos erscheint. Praxisgemäss sind Prozessbegehren als aussichtslos anzusehen, bei denen die Gewinnaussichten beträchtlich geringer sind als die Verlustgefahren und die deshalb kaum als ernsthaft bezeichnet werden können. Dagegen gilt ein Begehren nicht als aussichtslos, wenn sich Gewinnaussichten und Verlustgefahren ungefähr die Waage halten oder jene nur wenig geringer sind als diese. Massgebend ist, ob eine Partei, die über die nötigen finanziellen Mittel verfügt, sich bei vernünftiger Überlegung zu einem Prozess entschliessen würde; eine Partei soll einen Prozess, den sie auf eigene Rechnung und Gefahr nicht führen würde, nicht deshalb anstrengen können, weil er sie nichts kostet (BGE 129 I 129 E. 2.3.1 S. 135 mit Hinweisen).
Aufgrund der Gegebenheiten des Streitfalls (erhebliches, wenn auch nicht gerade schweres strafrechtliches Verschulden, mehrfache Delinquenz, unverheiratet und keine Lebensgemeinschaft mit der Partnerin, keine Kinder, ungünstige Legalprognose, mangelhafte berufliche Integration, junges Alter, medizinische Behandlungsmöglichkeiten in Serbien) waren die Erfolgschancen der Beschwerde gering, zumal das angefochtene Urteil ausführlich begründet ist. Das Rechtsmittel muss daher als aussichtslos bezeichnet werden, was zur Abweisung des Gesuchs um unentgeltliche Rechtspflege führt. Dem Verfahrensausgang entsprechend sind die Kosten des bundesgerichtlichen Verfahrens dem Beschwerdeführer aufzuerlegen (vgl. Art. 66 Abs. 1 BGG).
7.2 Ausgangsgemäss ist keine Parteientschädigung zuzusprechen (vgl. Art. 68 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 1'500.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons St. Gallen und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 25. März 2013
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Die Gerichtsschreiberin: Genner