Sachverhalt:
A. X._ ist seit dem Wintersemester 2006/2007 an der Universität St. Gallen immatrikuliert. Er studiert auf der Bachelor-Stufe Volkswirtschaftslehre. Mitte Juli 2012 stellte er ein Gesuch um Zulassung zum Bachelor-Parallelstudium (1. Priorität: Volkswirtschaftslehre; 2. Priorität: Rechtswissenschaft mit Wirtschaftswissenschaften). Mit Verfügung vom 23. Juli 2012 wies der Studiensekretär der Universität St. Gallen das Gesuch ab mit der Begründung, X._ erfülle die Voraussetzungen für die Zulassung zum Parallelstudium nicht.
B. X._ erhob dagegen am 26. Juli 2012 Rekurs an die Rekurskommission der Universität St. Gallen und stellte gleichzeitig ein Gesuch um unentgeltliche Rechtspflege. Dieses Gesuch wurde mit Verfügung des Justiz- und Sicherheitsdepartements vom 13. September 2012 wegen Aussichtslosigkeit des Rekurses abgewiesen. Das Verwaltungsgericht des Kantons St. Gallen wies die dagegen erhobene Beschwerde mit Urteil vom 10. Oktober 2012 ab. Es erwog, der Rekurs sei zu Recht als aussichtslos beurteilt worden. Als Rechtsmittelbelehrung war angegeben, es könne gestützt auf Art. 82 lit. a BGG Beschwerde ans Bundesgericht erhoben werden, "sofern eine Rechtsmittelverletzung nach Art. 95 ff. BGG geltend gemacht" werde.
C. X._ erhebt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Antrag, es sei ihm unter Aufhebung des angefochtenen Entscheids für das Rekursverfahren vor der Rekurskommission die unentgeltliche Rechtspflege zu gewähren oder die Sache zur neuen Beurteilung an das Verwaltungsgericht zurückzuweisen. Zugleich beantragt er für das bundesgerichtliche Verfahren unentgeltliche Rechtspflege.
D. Das Justiz- und Sicherheitsdepartement und das Verwaltungsgericht des Kantons St. Gallen beantragen Abweisung der Beschwerde. Die Rekurskommission der Universität St. Gallen verzichtet auf Vernehmlassung.
Erwägungen:
1. Wird vorgängig des Sachentscheids ein Gesuch um unentgeltliche Rechtspflege abgewiesen, so handelt es sich dabei um eine Zwischenverfügung; ein Rechtsmittelentscheid betreffend einen solchen Entscheid ist seinerseits eine Zwischenverfügung. Der angefochtene Entscheid ist daher entgegen der Auffassung des Beschwerdeführers kein Endentscheid (Art. 90 BGG), sondern ein Zwischenentscheid, der nur unter den Voraussetzungen von Art. 92 oder 93 BGG beim Bundesgericht anfechtbar ist (BGE 133 IV 335 E. 4 S. 338). In Frage kommt vorliegend einzig der Eintretensgrund des nicht wieder gutzumachenden Nachteils (Art. 93 Abs. 1 lit. a BGG). Die Verweigerung der unentgeltlichen Rechtspflege kann einen solchen Nachteil bewirken. Das ist namentlich der Fall, wenn nicht nur die unentgeltliche Rechtspflege verweigert, sondern zugleich die Anhandnahme des Rechtsmittels von der Bezahlung eines Kostenvorschusses abhängig gemacht wird (BGE 133 V 402 E. 1.2 S. 403; Urteil 4A_100/2009 vom 15. September 2009 E. 1.3, nicht publ. in BGE 135 III 603). Ebenso liegt ein nicht wieder gutzumachender Nachteil vor, wenn die Aufgabe des Rechtsvertreters mit dem Verfassen und Einreichen der Beschwerdeschrift nicht abgeschlossen ist, sondern im weiteren Verlauf zusätzliche Interventionen notwendig oder zumindest angezeigt sind (BGE 133 IV 335 E. 4 S. 338 f.; Urteil 8C_530/2008 vom 25. September 2008 E. 2.3). Geht es hingegen nur noch um nachträgliche Entscheide, die auf den Ablauf des Rechtsmittelverfahrens keinen Einfluss mehr haben (z.B. Höhe des Honorars für den amtlichen Rechtsbeistand), liegt kein nicht wieder gutzumachender Nachteil vor (BGE 133 V 645 E. 2.2 S. 647 f.).
2. Vorliegend macht der Beschwerdeführer nicht geltend, die Rekurskommission habe für die Behandlung seines Rekurses einen Kostenvorschuss verlangt, und solches ist auch nicht aktenkundig. Im Gegenteil geht aus der vom Beschwerdeführer im Verfahren 2C_1207/2012 erhobenen Beschwerde hervor, dass inzwischen die Rekurskommission über den Rekurs entschieden hat, obwohl das Gesuch um unentgeltliche Rechtspflege abgelehnt wurde. Es ist daher nicht ersichtlich, inwiefern die Zwischenverfügung einen nicht wieder gutzumachenden Nachteil bewirken könnte. Die Verweigerung der unentgeltlichen Rechtspflege kann auch im Rahmen des Endentscheids noch angefochten werden (Art. 93 Abs. 3 BGG).
3. Auf die Beschwerde ist daher nicht einzutreten. Der Beschwerdeführer trägt grundsätzlich die Gerichtskosten (Art. 66 Abs. 1 BGG). Da er aber als nicht Rechtskundiger auf die Rechtsmittelbelehrung vertrauen durfte, ist auf die Erhebung von Gerichtskosten zu verzichten (Art. 49 BGG). Das Gesuch um Gewährung der unentgeltlichen Rechtspflege für das bundesgerichtliche Verfahren wird damit gegenstandslos.
Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde wird nicht eingetreten.
2. Es werden keine Kosten erhoben.
3. Dieses Urteil wird den Verfahrensbeteiligten und dem Verwaltungsgericht des Kantons St. Gallen schriftlich mitgeteilt.
Lausanne, 20. Dezember 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Errass