Sachverhalt: A. Der 1993 geborene X._ ist serbischer Staatsangehöriger. Er ist in der Schweiz geboren und verfügt hier über eine Niederlassungsbewilligung. Nachdem er bereits mehrfach wegen geringfügigeren Delikten bestraft worden war, verurteilte ihn das Jugendgericht des Kreisgerichts St. Gallen am 17. Mai 2011 wegen qualifizierten Raubes, mehrfachen Raufhandels, einfacher Körperverletzung sowie wegen Widerhandlung gegen das Waffengesetz zu einer Freiheitsstrafe von 2 1⁄2 Jahren und schob diese zugleich zugunsten einer Massnahme auf. X._ lebte bis zum Antritt des Massnahmenvollzugs mit Z._ zusammen, ohne mit dieser verheiratet zu sein. Im Dezember 2012 gebar Z._ den gemeinsamen Sohn Y._, der - wie seine Mutter - ebenfalls über die Niederlassungsbewilligung verfügt. Am 11. Januar 2012 widerrief das Migrationsamt des Kantons St. Gallen die Niederlassungsbewilligung von X._ unter Hinweis auf dessen Delinquenz. B. Ein von X._ hiergegen erhobener Rekurs wies das Sicherheits- und Justizdepartement des Kantons St. Gallen am 6. November 2012 ab. Gegen diesen Entscheid beschwerte sich X._ beim Verwaltungsgericht des Kantons St. Gallen und ersuchte um unentgeltliche Rechtspflege und Verbeiständung für das Beschwerdeverfahren. Mit Zwischenverfügung vom 30. November 2012 wies der Präsident des Verwaltungsgerichts das Gesuch zufolge Aussichtslosigkeit des Rechtsmittels ab und er forderte X._ auf, einen Kostenvorschuss von Fr. 2'000.-- zu leisten, andernfalls die Beschwerde abgeschrieben werde. C. Gegen die Zwischenverfügung vom 30. November 2012 führt X._ am 21. Januar 2013 Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht. Er stellt im Wesentlichen den Antrag, es sei ihm die unentgeltliche Rechtspflege und Verbeiständung im Verfahren vor dem Verwaltungsgericht zu gewähren. Das Verwaltungsgericht sowie das Sicherheits- und Justizdepartement des Kantons St. Gallen schliessen auf Abweisung der Beschwerde.