Erwägungen:
1. Der serbische Staatsangehörige X._ (geb. 1981) kam 1992 im Rahmen des Familiennachzugs in die Schweiz und verfügt seither über eine Aufenthaltsbewilligung. Am 29. April 2009 anerkannte der geschiedene X._ das am 11. Februar 2009 geborene Kind Y._ (Schweizer Bürgerin).
Am 21. März 2011 lehnte das Migrationsamt des Kantons St. Gallen die erneute Verlängerung der Aufenthaltsbewilligung ab. Den dagegen erhobenen Rekurs wies das Sicherheits- und Justizdepartement des Kantons St. Gallen am 25. Januar 2012 ab. Mit Eingabe vom 8. Februar 2012 erhob X._ Beschwerde beim Verwaltungsgericht des Kantons St. Gallen und beantragte unter anderem, ihm im Verfahren vor Verwaltungsgericht die unentgeltliche Rechtspflege und Rechtsverbeiständung zu gewähren. Das Verwaltungsgericht wies diesen Antrag am 27. Februar 2012 infolge Aussichtslosigkeit der Beschwerde ab und forderte X._ auf, bis am 12. März 2012 einen Kostenvorschuss von Fr. 2'000.-- zu leisten.
Vor Bundesgericht beantragt X._, die Verfügung des Verwaltungsgerichts des Kantons St. Gallen vom 27. Februar 2012 aufzuheben und ihm für das kantonale Beschwerdeverfahren die unentgeltliche Rechtspflege und Rechtsverbeiständung zu gewähren; vom Kostenvorschuss sei abzusehen. Ferner sei ihm im Verfahren vor Bundesgericht die unentgeltliche Rechtspflege zu gewähren.
2. 2.1 Der (Zwischen-)Entscheid über die Verweigerung der unentgeltlichen Rechtspflege kann praxisgemäss jedenfalls dann selbständig angefochten werden, wenn - wie vorliegend - ein Kostenvorschuss eingefordert wird (<ref-law>; Urteil 2C_31/2012 vom 15. März 2012 E. 1.1). Die Wahl des zulässigen Rechtsmittels richtet sich bei Zwischenentscheiden nach dem Rechtsmittel in der Sache selbst (Grundsatz der Einheit des Verfahrens; Urteil 2D_1/2007 vom 2. April 2007 E. 2.2). Die Vorinstanzen sprachen dem Beschwerdeführer unter anderem einen Rechtsanspruch auf Verlängerung der Aufenthaltsbewilligung gestützt auf Art. 8 EMRK zu. Vor Bundesgericht begründet der Beschwerdeführer diesen indessen nicht ausdrücklich. Ob ihm deshalb mangels Rechtsanspruchs (<ref-law>) nur die subsidiäre Verfassungsbeschwerde zur Verfügung steht, kann offen gelassen werden, da die Beschwerde, soweit darauf eingetreten werden kann, ohnehin offensichtlich unbegründet ist und im vereinfachten Verfahren mit summarischer Begründung nach <ref-law> erledigt werden kann.
2.2 Die unentgeltliche Rechtspflege wird nach dem Gesetz des Kantons St. Gallen vom 16. Mai 1965 über die Verwaltungsrechtspflege (sGS 951.1; nachfolgend: VRP) gewährt, wenn der Gesuchsteller bedürftig ist und wenn das von ihm angestrebte Verfahren nicht aussichtslos ist (Art. 99 Abs. 2 VRP i.V.m. <ref-law> [SR 272]). Bei der Beurteilung der Aussichtslosigkeit orientierte sich die Vorinstanz an der bundesgerichtlichen Rechtsprechung zu <ref-law>. Rechtsbegehren sind demnach aussichtslos, wenn deren Gewinnaussichten zur Zeit der Verfahrenseinleitung betrachtet deutlich geringer sind als die Verlustgefahren. Entscheidend ist, ob eine nicht bedürftige Partei sich vernünftigerweise zu einem Prozess entschliessen würde (<ref-ruling> E. 5 S. 616 mit Hinweisen). Dabei ist notwendigerweise auf die Hauptstreitsache Bezug zu nehmen, vorliegend also auf die Frage, ob die Aufenthaltsbewilligung des Beschwerdeführers zu verlängern sei.
2.2 Die unentgeltliche Rechtspflege wird nach dem Gesetz des Kantons St. Gallen vom 16. Mai 1965 über die Verwaltungsrechtspflege (sGS 951.1; nachfolgend: VRP) gewährt, wenn der Gesuchsteller bedürftig ist und wenn das von ihm angestrebte Verfahren nicht aussichtslos ist (Art. 99 Abs. 2 VRP i.V.m. <ref-law> [SR 272]). Bei der Beurteilung der Aussichtslosigkeit orientierte sich die Vorinstanz an der bundesgerichtlichen Rechtsprechung zu <ref-law>. Rechtsbegehren sind demnach aussichtslos, wenn deren Gewinnaussichten zur Zeit der Verfahrenseinleitung betrachtet deutlich geringer sind als die Verlustgefahren. Entscheidend ist, ob eine nicht bedürftige Partei sich vernünftigerweise zu einem Prozess entschliessen würde (<ref-ruling> E. 5 S. 616 mit Hinweisen). Dabei ist notwendigerweise auf die Hauptstreitsache Bezug zu nehmen, vorliegend also auf die Frage, ob die Aufenthaltsbewilligung des Beschwerdeführers zu verlängern sei.
2.3 2.3.1 Das Verwaltungsgericht verweist bei seiner Prüfung auf sein Urteil vom 9. Juli 2009, in dem es die zuständige Behörde angewiesen hat, die Aufenthaltsbewilligung des Beschwerdeführers gestützt auf Art. 8 EMRK für ein Jahr zu verlängern. Grund für diesen Entscheid war die im Laufe des (damaligen) Beschwerdeverfahrens erfolgte Kindesanerkennung durch den Beschwerdeführer. Deswegen sei die Aufenthaltsbewilligung im Sinne einer (ausländerrechtlichen) Probezeit nochmals zu verlängern und der Beschwerdeführer erhalte Gelegenheit, den Tatbeweis für die Überwindung seiner Drogenabhängigkeit und die Befähigung zu einem straffreien und korrekten Verhalten zu erbringen. Verstösse gegen Vorschriften und behördliche Anordnungen dürfe sich der Beschwerdeführer nicht mehr zuschulden kommen lassen. Zudem müsse er dartun, dass er seine Pflichten als Vater gegenüber dem anerkannten Kind erfülle und den persönlichen Kontakt pflege.
2.3.2 Der nicht sorge- bzw. obhutsberechtigte Ausländer hat gestützt auf Art. 8 EMRK ausnahmsweise dann einen Anspruch auf Erteilung einer Aufenthaltsbewilligung, wenn er sich tadellos verhalten hat und zwischen ihm und seinem Kind in wirtschaftlicher und affektiver Hinsicht eine besonders enge Beziehung besteht (Urteil 2C_336/2012 vom 3. August 2012 E. 3.2 mit Hinweisen). Nach den für das Bundesgericht verbindlichen (<ref-law>) Feststellungen der Vorinstanz kommt der Beschwerdeführer seinen väterlichen Pflichten weder in affektiver noch in finanzieller Hinsicht nach. Auch hat der Beschwerdeführer den Tatbeweis der vollständigen Drogenabstinenz (in den Jahren 2010 und 2011 dreimal positiv auf Opiate getestet) nicht erbracht. Mit Strafurteil vom 14. Juli 2010 wurde der Beschwerdeführer zudem wegen schwerer Widerhandlung gegen das Betäubungsmittelgesetz und dessen mehrfacher Übertretung zu einer bedingten Freiheitsstrafe von 24 Monaten und einer Busse von Fr. 500.-- verurteilt. Aufgrund dieser Sachlage spricht sehr wenig für eine Verlängerung der Aufenthaltsbewilligung des Beschwerdeführers.
2.3.3 Bezeichnenderweise beschränkt sich der Beschwerdeführer in seiner knappen Eingabe im Wesentlichen darauf, Argumente vorzubringen, mit denen sich bereits das Sicherheits- und Justizdepartement des Kantons St. Gallen in seinem Entscheid vom 25. Januar 2012 einlässlich auseinandergesetzt hat. Diesem Entscheid hätte der Beschwerdeführer aber Wesentliches entgegensetzen müssen, wenn er nicht Gefahr laufen wollte, dass sein Rechtsmittel von der Vorinstanz als aussichtslos beurteilt wird (Urteil 2C_872/2011 vom 19. Januar 2012 E. 4 mit Hinweisen; STEFAN MEICHSSNER, Das Grundrecht auf unentgeltliche Rechtspflege [<ref-law>], 2008, S. 112).
3. Aufgrund dieser Sachlage ist das auch im bundesgerichtlichen Verfahren gestellte Gesuch um unentgeltliche Rechtspflege abzuweisen (vgl. <ref-law>). Damit würde der Beschwerdeführer kostenpflichtig (<ref-law>). Angesichts seiner finanziellen Verhältnisse erscheint es jedoch gerechtfertigt, auf die Erhebung von Kosten zu verzichten (Art. 66 Abs. 1 zweiter Satz und <ref-law>). Auf die Zusprechung einer Parteientschädigung besteht kein Anspruch (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Das Gesuch um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren wird abgewiesen.
3. Es werden keine Gerichtskosten erhoben.
4. Dieses Urteil wird den Verfahrensbeteiligten und dem Verwaltungsgericht des Kantons St. Gallen schriftlich mitgeteilt.
Lausanne, 24. September 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Egli