Sachverhalt: A. Der iranische Staatsangehörige X._ (geb. 1983) reiste zusammen mit seinen Eltern und sechs Geschwistern am 13. Mai 2001 in die Schweiz ein. Mit Verfügung vom 4. Dezember 2002 lehnte das Bundesamt für Flüchtlinge (heute: Bundesamt für Migration) das Asylgesuch von X._ (sowie von fünf weiteren Brüdern) ab und verfügte deren Wegweisung; gleichzeitig wurde seinen Eltern sowie seinem minderjährigen Bruder Asyl gewährt. Die von X._ dagegen erhobene Beschwerde wies das Bundesverwaltungsgericht mit Entscheid vom 21. Januar 2010 ab, worauf ihm eine neue Ausreisefrist bis zum 23. Februar 2010 gewährt wurde. Mehrere Gesuche um Sistierung des Wegweisungsvollzugs blieben erfolglos. Am 28. April 2007 war Y._, Sohn der Schweizer Bürgerin A._ (geb. 1987), zur Welt gekommen. Mit Urteil vom 17. November 2009 hatte das Kreisgericht St. Gallen festgestellt, dass X._ der Vater von Y._ sei. B. Mit Verfügung vom 11. Januar 2010 trat das Ausländeramt des Kantons St. Gallen auf ein Gesuch um Erteilung einer Härtefallbewilligung und am 4. März 2010 auf ein Gesuch um Erteilung einer Aufenthaltsbewilligung zur Vorbereitung der Heirat nicht ein. Am 12. April 2010 wies das Ausländeramt das von X._ am 19. März 2010 - gestützt auf die Beziehung zu seinem Sohn - eingereichte Gesuch um Erteilung einer Aufenthaltsbewilligung ab. Es führte im Wesentlichen aus, X._ habe zu berechtigten Klagen (u.a. Verurteilung zu bedingter Freiheitsstrafe von 22 Monaten) Anlass gegeben und es bestehe kein Anspruch auf Erteilung einer ausländerrechtlichen Bewilligung. Den von X._ und Y._ dagegen erhobenen Rekurs wies das Sicherheits- und Justizdepartement des Kantons St. Gallen mit Entscheid vom 9. August 2010 ab. C. Hiergegen gelangten X._ und Y._ mit Beschwerde vom 30. August 2010 an das Verwaltungsgericht des Kantons St. Gallen. Mit Verfügung vom 13. Oktober 2010 wies der Präsident des Verwaltungsgerichts ihr Gesuch um unentgeltliche Rechtspflege und Verbeiständung wegen Aussichtslosigkeit der Beschwerde ab und forderte die Beschwerdeführer auf, bis 12. November 2010 einen Kostenvorschuss von Fr. 2'000.-- zu bezahlen, andernfalls das Verfahren abgeschrieben würde. Mit Eingabe vom 12. November 2010 erheben X._ und Y._ beim Bundesgericht Beschwerde in öffentlich-rechtlichen Angelegenheiten sowie subsidiäre Verfassungsbeschwerde. Sie beantragen, die Verfügung vom 13. Oktober 2010 sei aufzuheben und den Beschwerdeführern im Verfahren betreffend Aufenthaltsbewilligung die unentgeltliche Rechtspflege und Verbeiständung zu gewähren; eventualiter sei die Angelegenheit zur erneuten Beurteilung an die Vorinstanz zurückzuweisen. Gerügt wird die Verletzung von kantonalem Recht sowie von Art. 29 Abs. 3 BV. Das Verwaltungsgericht und das Sicherheits- und Justizdepartement des Kantons St. Gallen beantragen die Abweisung der Beschwerde. Das kantonale Ausländeramt hat sich nicht geäussert.